本文实例讲述了python使用自定义user-agent抓取网页的方法。分享给大家供大家参考。具体如下：
下面python代码通过urllib2抓取指定的url的内容，并且使用自定义的user-agent，可防止网站屏蔽采集器
import urllib2
req = urllib2.Request('http://192.168.1.2/')
req.add_header('User-agent', 'Mozilla 5.10')
res = urllib2.urlopen(req)
html = res.read()
希望本文所述对大家的Python程序设计有所帮助。
你是否苦恼于网上无法下载的“小说在线阅读”内容？或是某些文章的内容让你很有收藏的冲动，却找不到一个下载的链接？是不是有种自己写个程序把全部搞定的冲动？是不是学了 python，想要找点东...
前言 今天从WiFi连接的原理，再结合代码为大家详细的介绍如何利用python来破解WiFi。 Python真的是无所不能，原因就是因为Python有数目庞大的库，无数的现成的轮子，让你...
一、选取网址进行爬虫 本次我们选取pixabay图片网站 url=https://pixabay.com/ 二、选择图片右键选择查看元素来寻找图片链接的规则 通过查看多个图...
使用Selenium驱动chrome页面，获得淘宝信息并用BeautifulSoup分析得到结果。 使用Selenium时注意页面的加载判断，以及加载超时的异常处理。 impor...
本文实例讲述了Python爬虫框架scrapy实现的文件下载功能。分享给大家供大家参考，具体如下： 我们在写普通脚本的时候，从一个网站拿到一个文件的下载url，然后下载，直接将数据写入文...