Python爬虫模拟登录带验证码网站
yipeiwu_com5年前
爬取网站时经常会遇到需要登录的问题，这是就需要用到模拟登录的相关方法。python提供了强大的url库，想做到这个并不难。这里以登录学校教务系统为例，做一个简单的例子。 首先得明白coo...
详解Python网络爬虫功能的基本写法
yipeiwu_com5年前
网络爬虫，即Web Spider，是一个很形象的名字。把互联网比喻成一个蜘蛛网，那么Spider就是在网上爬来爬去的蜘蛛。 1. 网络爬虫的定义 网络蜘蛛是通过网页的链接地址来寻找网页的...
python 爬取微信文章
yipeiwu_com5年前
本人想搞个采集微信文章的网站，无奈实在从微信本生无法找到入口链接，网上翻看了大量的资料，发现大家的做法总体来说大同小异，都是以搜狗为入口。下文是笔者整理的一份python爬取微信文章的代...
python&MongoDB爬取图书馆借阅记录
yipeiwu_com5年前
直接上需求和代码 首先是需要爬取的链接和网页：http://211.81.31.34/uhtbin/cgisirsi/x/0/0/57/49?user_id=LIBSCI_ENGI&pa...
python动态网页批量爬取
yipeiwu_com5年前
四六级成绩查询网站我所知道的有两个：学信网（http://www.chsi.com.cn/cet/）和99宿舍（http://cet.99sushe.com/），这两个网站采用的都是动态...
如何使用python爬取csdn博客访问量
yipeiwu_com5年前
最近学习了python和爬虫，想写一个程序练练手，所以我就想到了大家都比较关心的自己的博客访问量，使用python来获取自己博客的访问量，这也是后边我将要进行的项目的一部分，后边我会对博...
Using Django with GAE Python 后台抓取多个网站的页面全文
yipeiwu_com5年前
一直想做个能帮我过滤出优质文章和博客的平台 给它取了个名 叫Moven。。 把实现它的过程分成了三个阶段： 1. Downloader: 对于指定的url的下载 并把获得的内容传递给An...
Python 爬虫爬取指定博客的所有文章
yipeiwu_com5年前
自上一篇文章 Z Story : Using Django with GAE Python 后台抓取多个网站的页面全文 后，大体的进度如下： 1.增加了Cron： 用来告诉程序每隔30分...
玩转python爬虫之cookie使用方法
yipeiwu_com5年前
之前一篇文章我们学习了爬虫的异常处理问题，那么接下来我们一起来看一下Cookie的使用。 为什么要使用Cookie呢？ Cookie，指某些网站为了辨别用户身份、进行session跟踪而...
