Python爬虫:Request Payload和Form Data的简单区别说明
Request Payload 和 Form Data 请求头上的参数差别在于：
Content-Type
Form Data
Post表单请求
代码示例
headers = {
"Content-Type": "application/x-www-form-urlencoded"
}
requests.post(url, data=data, headers=headers)
Request Payload
传递json数据
headers = {
"Content-Type": "application/json"
}
requests.post(url, data=json.dumps(data), headers=headers)
Scrapy 的FormRequest只支持 Form Data 表单提交，源码固定为前者
补充知识：如何传递Request PayLoad（请求负载）中的数据？
在做爬虫的时候，在分析请求的过程，遇到参数长这样的：
原理不太清楚，等搞明白再来补充。这里只记录如何应用这些数据。
用法：
根据上面的图片，由于是post请求，参数一般是以key-value的json字符串传递，或者将参数放入map传递。我们可以看到很多name，这个name就是key，下面的数据就是value，我们可以提取所有的key及value，组成一个json字符串或者map传递即可。
比如上面的数据可以提取如下：
{"view:id1:txtSearch":"","$$viewid":"!f9fpyhcv2t!","$$xspsubmitid":"view:_id1:_id2:pager1_Group_lnk_2","$$xspexecid":"view:_id1:_id2:parent","$$xspsubmitvalue":"","$$xspsubmitscroll":"0|0","view:_id1":"view:_id1"}
或者：
Map<String,String> m = new HashMap<String,String>();
m.put("view:id1:txtSearch", "");
m.put("$$viewid", "!f9fpyhcv2t!");
m.put("$$xspsubmitid", "view:_id1:_id2:pager1_Group_lnk_2");
m.put("$$xspexecid", "view:_id1:_id2:parent");
m.put("$$xspsubmitvalue", "");
m.put("$$xspsubmitscroll", "0|0");
m.put("view:_id1", "view:_id1");
由于我是用Jsoup来发请求的，所以我这样传参数即可：
Jsoup.connect("").data(m).cookies(null).method(Method.POST);
或者：
Connection conn = Jsoup.connect("");
String requestJson = "{\"view:id1:txtSearch\":\"\",\"$$viewid\":\"!f9fpyhcv2t!\",\"$$xspsubmitid\":\"view:_id1:_id2:pager1_Group_lnk_2\",\"$$xspexecid\":\"view:_id1:_id2:parent\",\"$$xspsubmitvalue\":\"\",\"$$xspsubmitscroll\":\"0|0\",\"view:_id1\":\"view:_id1\"}";
conn.requestBody(requestJson);
conn.cookies(null).method(Method.POST);
conn.execute();
具体参数具体情况填啦。
是不是超简单。
注意一点，请求负载中的value值不一定是固定值，若每次请求都会发生变化，那么就需要分析这个变化的值从哪里来，动态获取这个值，然后发送请求才能正确。
以上这篇Python爬虫:Request Payload和Form Data的简单区别说明就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
这篇文章主要介绍了使用python对文件中的单词进行提取的方法示例，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2018-12-12
python 利用pywifi模块实现连接网络破解wifi密码实时监控网络
这篇文章主要介绍了python 利用pywifi模块实现连接网络破解wifi密码实时监控网络,需要的朋友可以参考下2019-09-09
今天小编就为大家分享一篇基于keras输出中间层结果的2种实现方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2020-01-01
ruff check文件目录检测--exclude参数设置路径详解
这篇文章主要为大家介绍了ruff check文件目录检测exclude参数如何设置多少路径详解,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪2023-10-10
python torch.utils.data.DataLoader使用方法
这篇文章主要介绍了python torch.utils.data.DataLoader使用方法，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2020-04-04
工作需要,写一个小脚本,其中有个需求是获取实际的执行程序所在路径（python代码由pyinstaller打包成执行程序）,这篇文章主要介绍了Python执行程序获取所在目录的解决方案,需要的朋友可以参考下2024-05-05
文件上传服务器-jupyter 中python解压及压缩方式
这篇文章主要介绍了文件上传服务器-jupyter 中python解压及压缩方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2020-04-04
这篇文章主要介绍了Python拆分大型CSV文件代码实例,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下2019-10-10
这篇文章主要介绍了Python模块常用四种安装方式,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下2020-10-10
这篇文章主要介绍了Python三数之和的实现方式，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教2022-05-05
最新评论