本文实例讲述了python使用自定义user-agent抓取网页的方法。分享给大家供大家参考。具体如下：
下面python代码通过urllib2抓取指定的url的内容，并且使用自定义的user-agent，可防止网站屏蔽采集器
import urllib2
req = urllib2.Request('http://192.168.1.2/')
req.add_header('User-agent', 'Mozilla 5.10')
res = urllib2.urlopen(req)
html = res.read()
希望本文所述对大家的Python程序设计有所帮助。
前言 还有一年多就要毕业了，不准备考研的我要着手准备找实习及工作了，所以一直没有更新。 因为Python是自学不久，发现很久不用的话以前学过的很多方法就忘了，今天打算使用简单的Beaut...
淘宝的页面很复杂，如果使用分析ajax或者js的方式，很麻烦 抓取淘宝‘美食'上面的所有食品信息 spider.py #encoding:utf8 import re from s...
requests是一个很实用的Python HTTP客户端库，编写爬虫和测试服务器响应数据时经常会用到。可以说，Requests 完全满足如今网络的需求。本文重点给大家介绍python使...
获取首页元素信息： 目标 test_URL：http://www.xxx.com.cn/ 首先检查元素，a 标签下是我们需要爬取得链接，通过获取链接路径，定位出我们需要的信息 sou...
前一篇文章介绍了很多关于scrapy的进阶知识，不过说归说，只有在实际应用中才能真正用到这些知识。所以这篇文章就来尝试利用scrapy爬取各种网站的数据。 爬取百思不得姐 首先一步一步来...