本文实例讲述了python3抓取中文网页的方法。分享给大家供大家参考。具体如下：
#! /usr/bin/python3.2
import sys
import urllib.request
req = urllib.request.Request('http://www.baidu.com')
response = urllib.request.urlopen(req)
the_page = response.read()
type = sys.getfilesystemencoding()
#转换成本地系统编码
print(the_page.decode(type))
希望本文所述对大家的Python程序设计有所帮助。
一、爬虫框架Scarpy简介Scrapy 是一个快速的高层次的屏幕抓取和网页爬虫框架，爬取网站，从网站页面得到结构化的数据，它有着广泛的用途，从数据挖掘到监测和自动测试，Scrapy完全...
道友问我的一个问题，之前确实没遇见过，在此记录一下。 问题描述 在某网站主页提取url进行迭代，爬虫请求主页时没有问题，返回正常，但是在访问在主页提取到的url时出现了400状态码(40...
1、主函数（WeiboMain.py）： 复制代码 代码如下:import urllib2import cookielib import WeiboEncodeimport WeiboS...
本文实例讲述了python实现的爬取电影下载链接功能。分享给大家供大家参考，具体如下： #!/usr/bin/python #coding=UTF-8 import sys impo...
Windows •安装lxml 最好的安装方式是通过wheel文件来安装，http://www.lfd.uci.edu/~gohlke/pythonlibs/，从该网站找到l...