python简单构建可用IP代理池
更新时间:2022年02月10日 09:06:17 作者:阿南-anan
这篇文章主要介绍了python构建简单可以代理池,实现过程匹配ip:port的正则表达式、匹配出所有的ip与端口,放入列表、判断爬取的代理ip是否可用、使用代理ip访问指定网站,具体实现需要的小伙伴可以参考下面文章内容
以下为简单示例:
import requests import re import telnetlib url='http://www.66ip.cn/nmtq.php?getnum=100000&isp=0&anonymoustype=4&start=&ports=&export=&ipaddress=&area=2&proxytype=0&api=66ip' header = {'User-agent':'xxxxxxxxxxx','Connection':'close'} page_text = requests.get(url=url,headers=header).text #用于匹配ip:port的正则表达式 p = r'(?:((?:\d|[1-9]\d|1\d{2}|2[0-5][0-5])\.(?:\d|[1-9]\d|1\d{2}|2[0-5][0-5])\.(?:\d|[1-9]\d|1\d{2}|2[0-5][0-5])\.(?:\d|[1-9]\d|1\d{2}|2[0-5][0-5]))\D+?(6[0-5]{2}[0-3][0-5]|[1-5]\d{4}|[1-9]\d{1,3}|[0-9]))' #匹配出所有的ip与端口,放入列表 iplist = re.findall(p,page_text) # 判断爬取的代理ip是否可用 for i in iplist: ip = i[0]+':'+i[1]+'\n' try: # 使用代理ip访问指定网站,能访问说明代理可用 # requests.get('http://www.baidu.com', proxies={"http": ip}) # 使用telnet测试代理是否可用 telnetlib.Telnet(i[0], port=i[1], timeout=3) except: print('connect failed') else: print(ip) with open('ip.txt', 'a+', encoding='utf-8') as fp: fp.write(ip)
到此这篇关于python构建简单可以代理池的文章就介绍到这了,更多相关python构建简单代理池内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!
相关文章
ubuntu在线服务器python Package安装到离线服务器的过程
这篇文章主要介绍了ubuntu在线服务器python Package安装到离线服务器,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下2023-04-04Python Excel数据处理之xlrd/xlwt/xlutils模块详解
在复杂的Excel业务数据处理中,三兄弟扮演的角色缺一不可。如何能够使用xlrd/xlwt/xlutils三个模块来实现数据处理就是今天的内容,希望对大家有所帮助2023-03-03
最新评论