Python使用grequests并发发送请求的示例
前言
requests是Python发送接口请求非常好用的一个三方库，由K神编写，简单，方便上手快。但是requests发送请求是串行的，即阻塞的。发送完一条请求才能发送另一条请求。
为了提升测试效率，一般我们需要并行发送请求。这里可以使用多线程，或者协程，gevent或者aiohttp，然而使用起来，都相对麻烦。
grequests是K神基于gevent+requests编写的一个并发发送请求的库,使用起来非常简单。
安装方法： pip install gevent grequests
项目地址：https://github.com/spyoungtech/grequests
grequests简单使用
首先构造一个请求列表，使用grequests.map()并行发送，得到一个响应列表。示例如下。
import grequests
req_list = [ # 请求列表
grequests.get('http://httpbin.org/get?a=1&b=2'),
grequests.post('http://httpbin.org/post', data={'a':1,'b':2}),
grequests.put('http://httpbin.org/post', json={'a': 1, 'b': 2}),
]
res_list = grequests.map(req_list) # 并行发送，等最后一个运行完后返回
print(res_list[0].text) # 打印第一个请求的响应文本
grequests支持get、post、put、delete等requests支持的HTTP请求方法，使用参数和requests一致，发送请求非常简单。
通过遍历res_list可以得到所有请求的返回结果。
grequests和requests性能对比
我们可以对比下requests串行和grequests并行请求100次github.com的时间，示例如下。
使用requests发送请求
import requests
import time
start = time.time()
res_list = [requests.get('https://github.com') for i in range(100)]
print(time.time()-start)
实际耗时约100s+
使用grequests发送
import grequests
import time
start = time.time()
req_list = [grequests.get('https://github.com') for i in range(100)]
res_list = grequests.map(req_list)
print(time.time()-start)
际耗时约3.58s
异常处理
在批量发送请求时难免遇到某个请求url无法访问或超时等异常，grequests.map()方法还支持自定义异常处理函数，示例如下。
import grequests
def err_handler(request, exception):
print("请求出错")
req_list = [
grequests.get('http://httpbin.org/delay/1', timeout=0.001), # 超时异常
grequests.get('http://fakedomain/'), # 该域名不存在
grequests.get('http://httpbin.org/status/500') # 正常返回500的请求
]
res_list = grequests.map(reqs, exception_handler=err_handler)
print(res_list)
运行结果：
请求出错
请求出错
[None, None, <Response [500]>]
以上就是Python使用grequests并发发送请求的示例的详细内容，更多关于Python grequests发送请求的资料请关注脚本之家其它相关文章！
- python爬虫请求库httpx和parsel解析库的使用测评
- python爬虫系列网络请求案例详解
- 详解python requests中的post请求的参数问题
- 快速一键生成Python爬虫请求头
- Python3+Django get/post请求实现教程详解
- python 实现Requests发送带cookies的请求
- python实现三种随机请求头方式
- Python urllib request模块发送请求实现过程解析
- python 爬虫请求模块requests详解
- Python Http请求json解析库用法解析
- python 发送get请求接口详解
- python+excel接口自动化获取token并作为请求参数进行传参操作
- Python爬虫基础讲解之请求
相关文章
Pycharm搭建Django项目详细教程(看完这一篇就够了)
这篇文章主要给大家介绍了关于Pycharm搭建Django项目的详细教程,想要学习的小伙伴看完这一篇就够了,pycharm是一种Python IDE,带有一整套可以帮助用户在使用Python语言开发时提高其效率的工具,需要的朋友可以参考下2023-11-11
python3 json数据格式的转换(dumps/loads的使用、dict to str/str to dict、j
JSON (JavaScript Object Notation) 是一种轻量级的数据交换格式。它基于ECMAScript的一个子集。这篇文章主要介绍了python3 json数据格式的转换(dumps/loads的使用、dict to str/str to dict、json字符串/字典的相互转换) ,需要的朋友可以参考下2019-04-04
本讲只关注os.path，真所谓“弱水三千，只取一瓢”，为什么这么偏爱它呢？因为它和前面已经讲过的文件操作进行配合，就能够随心所欲操作各个地方的文件了2014-10-10
这篇文章主要介绍了Python+OpenCV检测灯光亮点的实现方法，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2020-11-11
在Python中,sys模块提供了访问和使用解释器的许多功能的方法,包括命令行参数、环境变量、路径管理、标准输入输出流等,sys模块是Python的标准库的一部分,不需要额外安装即可使用,本文介绍python sys模块相关知识,感兴趣的朋友一起看看吧2024-09-09
今天小编就为大家分享一篇python画图——实现在图上标注上具体数值的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2019-07-07
这篇文章主要介绍了关于pip安装opencv-python遇到的问题，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教2023-02-02
如何实现更换Jupyter Notebook内核Python版本
这篇文章主要介绍了如何实现更换Jupyter Notebook内核Python版本，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2020-05-05
Python使用xlrd模块实现操作Excel读写的方法汇总
本文介绍Python中使用xlrd、xlwt、xlutils模块操作Excel文件的方法,xlrd用于读取Excel文件,但2.0.0版本后不支持.xlsx格式,xlwt用于创建和写入Excel文件,而xlutils主要用于复制和处理Excel文件,详细介绍了如何打开文件、获取工作表信息、操作行列数据和处理日期格式数据2024-10-10
这篇文章主要介绍了tensorflow图像裁剪进行数据增强操作，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2020-06-06
最新评论