Python爬取YY评级分数并保存数据实现过程解析
前言
当需要进行大规模查询时（比如目前遇到的情形：查询某个省所有发债企业的YY评级分数），人工查询显然太过费时，那就写个爬虫吧。
由于该爬虫实在过于简单，就只简单概述下。
一、请求端
通过观察YY评级的网页信息，如下图（F12或右击进入检查，点击network—>XHR—>headers）。
红色框表明是个get请求（其实这种网页基本都是Ajax get，需要总结实际url的规律的）。
绿色框即为实际URL，通过分析该URL，其由两部分组成。前半部分为“
https://web.ratingdog.cn/v1/search?”，后半部分为黄色框内内容用“&”符号连接后的结果。黄色框内的内容，只有企业名称为变量，且为已知变量，那URL即可据此确定了。
另外需注意，YY评级需要登录才可查询数据，在构建头部信息进行访问时，一定要提前登录，并在头部信息中放入登录信息和登录状态。
二、响应端
通过观察网页的响应信息（F12或右击进入检查，点击network—>XHR—>response），如下图。响应信息及其简单，我们所需要的YY评级分数安详地躺在那里，简单到一个正则表达式就可以提取出该数据。正则如下：
"msg".*?"IssuerName":"(.*?)","YYRating":"(.*?)/10","IntrinsicRating".*?"
三、代码
所需数据较少，代码相对简单，就不建立函数了，直接一路到底吧。如下：
运行代码后，得到结果如下。安徽省的100多条数据，就到了本地了
以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持脚本之家。
相关文章
这篇文章主要介绍了python实现json文件的增删改操作,本文通过示例代码给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2023-06-06
本文主要介绍了python使用opencv进行人脸识别的相关资料。具有很好的参考价值。下面跟着小编一起来看下吧2017-04-04
不过下面可是我们开发产品初期的一些血淋淋的案例，更多的安全威胁可以看看北北同学的《python hack》PPT，里面提及了不只命令执行的威胁，那些都是我们亲身经历的代码2013-02-02
解决pycharm中opencv-python导入cv2后无法自动补全的问题(不用作任何文件上的修改)
这篇文章主要介绍了解决pycharm中opencv-python导入cv2后无法自动补全的问题(不用作任何文件上的修改),本文给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2020-03-03
Python3.7 pyodbc完美配置访问access数据库
最近小编需要学习python连接access数据库，发现很多朋友推荐pyodbc，那么这篇文章就先为大家介绍一下Python3.7下pyodbc的配置方法2019-10-10
Harris角点检测算子是于1988年由CHris Harris & Mike Stephens提出来的。在具体展开之前，不得不提一下Moravec早在1981就提出来的Moravec角点检测算子。本文重点给大家介绍OpenCV图像特征harris角点检测知识，一起看看吧2021-09-09
yield关键字用于创建生成器函数,一种高效利用内存的函数类型,可以像迭代器对象一样使用,本文主要介绍了Python中的yield关键字的应用,需要的可以参考下2023-08-08
这篇文章主要介绍了Python异步编程之协程任务的调度操作,结合实例形式分析了Python异步编程中协程任务的调度相关原理、实现方法与操作注意事项,需要的朋友可以参考下2020-02-02
这篇文章主要介绍了Python下载网络小说实例代码，分享了相关代码示例，小编觉得还是挺不错的，具有一定借鉴价值，需要的朋友可以参考下2018-02-02
这篇文章主要介绍了Python匿名函数（lambda函数），文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2019-04-04
最新评论