本文实例讲述了python3抓取中文网页的方法。分享给大家供大家参考。具体如下：
#! /usr/bin/python3.2
import sys
import urllib.request
req = urllib.request.Request('http://www.baidu.com')
response = urllib.request.urlopen(req)
the_page = response.read()
type = sys.getfilesystemencoding()
#转换成本地系统编码
print(the_page.decode(type))
希望本文所述对大家的Python程序设计有所帮助。
python 爬虫解决403禁止访问错误 在Python写爬虫的时候，html.getcode()会遇到403禁止访问的问题，这是网站对自动化爬虫的禁止，要解决这个问题，需要用到pyth...
这篇博客是自己《数据挖掘与分析》课程讲到正则表达式爬虫的相关内容，主要简单介绍Python正则表达式爬虫，同时讲述常见的正则表达式分析方法，最后通过实例爬取作者的个人博客网站。希望这篇基...
爬虫真是一件有意思的事儿啊，之前写过爬虫，用的是urllib2、BeautifulSoup实现简单爬虫，scrapy也有实现过。最近想更好的学习爬虫，那么就尽可能的做记录吧。这篇博客...
一步一步构建一个爬虫实例，抓取糗事百科的段子 先不用beautifulsoup包来进行解析 第一步，访问网址并抓取源码 # -*- coding: utf-8 -*- # @Auth...
分析 需求: 爬取西刺代理网免费高匿代理，并保存到MySQL数据库中。 这里只爬取前10页中的数据。 思路： 分析网页结构，确定数据提取规则 创建Scrapy项目 编写...