利用Pyhton中的requests包进行网页访问测试的方法

yipeiwu_com5年前Python基础

为了测试一组网页是否能够访问,采取python中的requests包进行批量的访问测试,并输出访问结果。

一、requests包的安装

打开命令行(win+r输入cmd启动);

打开pythion安装目录下的Python\Python36-32\Scripts,将其中的pip文件拖动到命令行中;

在之后输入install requests命令;

Pyhton requests包进行网页访问测试

二、访问方法

import requests
fin = open('urls.txt', 'r')
fout = open('result.txt', 'w')
urllist = fin.readlines()
for url in urllist:
 try:
  url='http://'+url.strip()
  r=requests.post(url)
  fout.write(url+' : OK with status_code: '+str(r.status_code))
  print(url+' : OK with status_code: '+str(r.status_code))
 except:
  fout.write(url+' : error\n')
  print(url+' : error\n')
fin.close()
fout.close()

通过读取文件中的url进行访问;

由于文件中url缺少一些信息,因此统一加上http://;

.strip()方法是为了去掉末尾的\n,否则会访问错误;

之所以采用try/except是因为经过测试发现,有些网站打不开会直接导致程序中断,而有些网站则是能够进去,但是网站本身没有内容或再报一些其他错,所以对于能访问的网站还会进一步检查状态码进行鉴别。

以上这篇利用Pyhton中的requests包进行网页访问测试的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持【听图阁-专注于Python设计】。

相关文章

Pytorch DataLoader 变长数据处理方式

关于Pytorch中怎么自定义Dataset数据集类、怎样使用DataLoader迭代加载数据,这篇官方文档已经说得很清楚了,这里就不在赘述。 现在的问题:有的时候,特别对于NLP任务...

浅谈Python批处理文件夹中的txt文件

浅谈Python批处理文件夹中的txt文件

1 文件处理形式    近期由于处理大量数据,所以对于采用python进行处理文件的一些操作也打算整理一下;接下来主要说一下如何处理目录下的一系列txt文件...

python将txt文件读取为字典的示例

如下所示: # -*- coding: utf-8 -*- # @Time :18-8-2 下午3:23 import sys reload(sys) sys.setdefault...

python3实现二叉树的遍历与递归算法解析(小结)

python3实现二叉树的遍历与递归算法解析(小结)

1、二叉树的三种遍历方式 二叉树有三种遍历方式:先序遍历,中序遍历,后续遍历 即:先中后指的是访问根节点的顺序 eg:先序 根左右 中序 左根右 后序 左右根 遍历总体思路:将树分成最小...

解决Python使用列表副本的问题

要使用一个列表的副本,要用切片进行列表复制,这样会形成两个独立的列表。 切记不要将列表赋值给一个列表,因为这样并不能得到两个列表。 1、使用赋值语法创建列表副本的问题 下边就将列表赋值,...