脚本之家 服务器常用软件
快捷导航
您的位置：首页 → 脚本专栏 → python → Python爬取微信公众号

基于Python采集爬取微信公众号历史数据

 更新时间：2020年11月27日 09:22:47   作者：天宝老爹  
这篇文章主要介绍了基于Python采集爬取微信公众号历史数据,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下

鲲之鹏的技术人员将在本文介绍一种通过模拟操作微信App的方式采集指定公众号的所有历史数据的方法。

通过我们抓包分析发现，微信公众号的历史数据是通过HTTP协议加载的，对应的API接口如下图所示，其中有四个关键参数（__biz、appmsg_token、pass_ticket以及Cookie）。

为了能够拿到这四个参数，我们需要模拟操作App，让其产生这些参数，然后我们再抓包获取。对于模拟App操作，前面我们曾介绍过通过Python模拟安卓App的方法(详见http://www.site-digger.com/html/articles/20180912/664.html)。对于HTTP集成抓包，前面我们曾介绍过Mitmproxy（详见http://www.site-digger.com/html/articles/20181109/682.html）。

我们需要模拟操作微信完成如下步骤：

1. 启动微信App

2. 点击"通讯录"

3. 点击"公众号"

4. 点击要采集的公众号

5. 点击右上角的用户图像图标

6. 点击"全部消息"

此时，我们可以从https://mp.weixin.qq.com/mp/profile_ext?action=home的应答数据中捕获__biz、appmsg_token以及pass_ticket三个关键参数，以及请求头中的Cookie值。如下图所示。

有了上述四个参数，我们就可以构造出获取历史文章列表的API请求，通过调用API接口直接获取数据（不需要再模拟App操作）。核心参数如下所示，通过改变offset参数，可以拿到所有历史数据。

# Cookie 
headers = {'Cookie': 'rewardsn=; wxtokenkey=777; wxuin=584068438; devicetype=android-19; version=26060736; lang=zh_CN; pass_ticket=Rr8cO5c2******3tKGqe7aVZzV9TupvrK+1uHHmHYQGL2WFdKIE; wap_sid2=COKhxu4KElxckFZQ3QzTHU4WThEUk0zcWdrZjhGcUdYdEVSV3Y1X2NPWHNUakRrd1ZzMnpLTERpdE5rbmxjSTg******dlRBcUNRazZpOGxTZUVEQUTgNQJVO'} 
 
url = 'https://mp.weixin.qq.com/mp/profile_ext?' 
data = {} 
data['is_ok'] = '1' 
data['count'] = '10' 
data['wxtoken'] = '' 
data['f'] = 'json' 
data['scene'] = '124' 
data['uin'] = '777' 
data['key'] = '777' 
data['offset'] = '0' 
data['action'] = 'getmsg' 
data['x5'] = '0' 
# 下面三个参数需要替换 
# https://mp.weixin.qq.com/mp/profile_ext?action=home应答数据里会暴漏这三个参数 
data['__biz'] = 'MjM5MzQyOTM1OQ==' 
data['appmsg_token'] = '993_V8%2BEmfVD7g%2FvMZ****4DNUJNFkg~~' 
data['pass_ticket'] = 'Rr8cO5c23ZngeQHRGy8E7gv*****pvrK+1uHHmHYQGL2WFdKIE' 
url = url + urllib.urlencode(data)

以"数字工厂"这个微信公众号为例，采集过程运行截图如下所示：

输出结果截图如下所示：

以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持脚本之家。

您可能感兴趣的文章:

相关文章

  • Python快速优雅的批量修改Word文档样式

    Python快速优雅的批量修改Word文档样式

    本文主要将涉及os,glob,docx模块的综合应用，帮助大家快速批量修改Word文档样式实现办公自动化，感兴趣的朋友可以了解下
    2021-05-05
  • 如何用pandas读取一个文件或某个文件夹下所有文件

    如何用pandas读取一个文件或某个文件夹下所有文件

    这篇文章主要介绍了如何用pandas读取一个文件或某个文件夹下所有文件问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教
    2024-02-02
  • python切割图片的实现示例

    python切割图片的实现示例

    本文主要介绍了python切割图片的实现示例，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
    2022-05-05
  • Pytorch训练网络过程中loss突然变为0的解决方案

    Pytorch训练网络过程中loss突然变为0的解决方案

    这篇文章主要介绍了Pytorch训练网络过程中loss突然变为0的解决方案，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教
    2021-05-05
  • Python中jieba库的使用方法

    Python中jieba库的使用方法

    jieba库是一款优秀的 Python 第三方中文分词库，本文主要介绍了Python中jieba库的使用方法，具有一定的参考价值，感兴趣的小伙伴们可以参考一下
    2021-06-06
  • python绘制神器五角星+小黄人+樱花

    python绘制神器五角星+小黄人+樱花

    这篇文章主要介绍了python绘制神器五角星+小黄人+樱花，文章围绕主题展开详细的内容介绍，具有一定的参考价值，需要的朋友可以参考一下
    2022-07-07
  • Python类的继承super相关原理解析

    Python类的继承super相关原理解析

    这篇文章主要介绍了Python类的继承super相关原理解析,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2020-10-10
  • Flask框架搭建虚拟环境的步骤分析

    Flask框架搭建虚拟环境的步骤分析

    这篇文章主要介绍了Flask框架搭建虚拟环境的步骤,结合实例形式分析总结了flask框架搭建虚拟环境的步骤、常见问题与解决方法,需要的朋友可以参考下
    2019-12-12
  • django缓存配置的几种方法详解

    django缓存配置的几种方法详解

    缓存对各位学习或者使用django的朋友们来说应该都不陌生，下面这篇文章主要给大家介绍了关于django缓存配置的几种方法，文中通过示例代码介绍的非常详细，需要的朋友可以参考下
    2018-07-07
  • python asyncio 协程库的使用

    python asyncio 协程库的使用

    这篇文章主要介绍了python asyncio 协程库的使用，帮助大家更好的理解和使用python，感兴趣的朋友可以了解下
    2021-01-01

最新评论