本文实例讲述了python使用自定义user-agent抓取网页的方法。分享给大家供大家参考。具体如下：
下面python代码通过urllib2抓取指定的url的内容，并且使用自定义的user-agent，可防止网站屏蔽采集器
import urllib2
req = urllib2.Request('http://192.168.1.2/')
req.add_header('User-agent', 'Mozilla 5.10')
res = urllib2.urlopen(req)
html = res.read()
希望本文所述对大家的Python程序设计有所帮助。
上次学会了爬取图片，这次就想着试试爬取商家的联系电话，当然，这里纯属个人技术学习，爬取过后及时删除，不得用于其它违法用途，一切后果自负。 首先我学习时用的是114黄页数据。 下面四个是用...
1.使用系统自带库 os 这种方法的优点是，任何浏览器都能够使用， 缺点不能自如的打开一个又一个的网页 import os os.system('"C:/Program Files...
（1）在校大学生。最好是数学或计算机相关专业，编程能力还可以的话，稍微看一下爬虫知识，主要涉及一门语言的爬虫库、html解析、内容存储等，复杂的还需要了解URL排重、模拟登录、验证码识别...
一步一步构建一个爬虫实例，抓取糗事百科的段子 先不用beautifulsoup包来进行解析 第一步，访问网址并抓取源码 # -*- coding: utf-8 -*- # @Auth...
前言 qq music上的音乐还是不少的，有些时候想要下载好听的音乐，但有每次在网页下载都是烦人的登录什么的。于是，来了个qqmusic的爬虫。至少我觉得for循环爬虫，最核心的应该就是...