Python脚本如何在bilibili中查找弹幕发送者
总所周知bilibili是没有办法直接查看弹幕的发送者的,这使得当我们看到一些nt弹幕的时候虽然生气,却无可奈何,但是B站是可以屏蔽某个用户发送的弹幕的,这说明数据接口里肯定有用户信息,由于最近在学爬虫,所以我想先找找弹幕接口,分析下里面的数据。
找接口
找接口当然是随便打开一个视频然后F12啦,可是当我找了两圈后我傻眼了,没找到啊。。得,不能把时间浪费在这种事情上,果断打开百度,不出所料,找到了如下的两个接口,都是XML格式网页
https://comment.bilibili.com/+cid
https://api.bilibili.com/x/v1/dm/list.so?oid=+cid
这里面的cid是一种每个视频独有的数字,也就是每一P都有一个cid,查找cid可以打开网页然后F12,再ctrl+f搜索cid,一般八九位数的就是cid了。
这里我找到了一个接口,可以通过aid找到cid
https://www.bilibili.com/widget/getPageList?aid=+aid
分析数据
弹幕数据是获取到了,那么我们就要从这一堆数据中分析他们的用途了
这里大概能得到两个信息,其中第6个数据为时间戳,第8个数据为用户uid的某种加密方式。经查询得到这是用户uid经过crc32校验得到的结果转为16进制数,所以只能通过uid得到对于的校验码,无法反推。。似乎只能通过彩虹表的方式查找数据了?那么这串8位16进制的数字在数据库中要用什么方式保存呢?
选择似乎有varchar和bigint,由于B站有差不多6亿个用户,在6亿个数据中查找想要的字符串那速度必然很慢(但有人经测试得到varchar型数据和bigint型数据查找速度其实差的不多?)
就在我决定用bigint储存数据时,我突然想到,8位16进制那就是2的32次方,int型的储存上限时2的31次方,如果用无符号的方式保存正好是2的32次方,也就是能储存到0xffffffff这么大的数据,正好满足要求。于是果断换成无符号int,与之对应的id也为无符号int,并将crc32b编码过后的数据作为主键,制成彩虹表存入我的服务器内。
(粗略的算了一下,6亿数据就是需要27G左右的空间…而我的服务器一共才40G的大小…)
做成网页供大家使用
接下来的操作似乎就水到渠成了,写了个python脚本,该python脚本接受2个参数,视频cid和想要搜索的弹幕关键字,返回用户发送的弹幕,用户的crc32b编码,时间戳。然后用php的exec函数执行python代码,并通过搜索数据库找出用户的uid,通过php返回json格式数据给前端。
python代码(写的很烂)
import requests from bs4 import BeautifulSoup import re import io import sys sys.stdout = io.TextIOWrapper(sys.stdout.buffer,encoding='utf-8') req = requests.get('https://comment.bilibili.com/'+sys.argv[1]+'.xml') req.encoding = req.apparent_encoding soup = BeautifulSoup(req.text, 'html.parser').find_all(name='d') result = "" for i in soup: s = re.sub('<(.*?)>', '', str(i)) index = 0 if(len(sys.argv[2])>0): index = s.find(str(sys.argv[2])) if(index!=-1): result+=str(i).split(",")[6]+","+s+","+str(i).split(",")[4]+"," print(result)
效果展示
前端代码就是随便写的~至少功能实现了嘛
这里说一下为什么是NULL,因为我的服务器还在可怜巴巴的往数据库内写入彩虹表数据。。预计需要4天~
今天加了个暴力破解的功能,避免了查询结果为NULL,但是相对的查询速度会非常慢。
最后!附上该工具的链接:点我
总结
到此这篇关于Python脚本如何在bilibili中查找弹幕发送者的文章就介绍到这了,更多相关bilibili弹幕发送者内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!
- python 批量下载bilibili视频的gui程序
- 利用python 下载bilibili视频
- python中使用you-get库批量在线下载bilibili视频的教程
- Python爬虫 bilibili视频弹幕提取过程详解
- Python爬虫模拟登陆哔哩哔哩(bilibili)并突破点选验证码功能
- python爬虫搭配起Bilibili唧唧的流程分析
- python批量合成bilibili的m4s缓存文件为MP4格式 ver2.5
- Python破解BiliBili滑块验证码的思路详解(完美避开人机识别)
- Python实现bilibili时间长度查询的示例代码
- Python爬虫爬取Bilibili弹幕过程解析
- python破解bilibili滑动验证码登录功能
- 写一个Python脚本自动爬取Bilibili小视频
相关文章
解决tf.keras.models.load_model加载模型报错问题
这篇文章主要介绍了解决tf.keras.models.load_model加载模型报错问题,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教2023-06-06Python实现经典算法拓扑排序、字符串匹配算法和最小生成树实例
这篇文章主要介绍了Python实现经典算法拓扑排序、字符串匹配算法和最小生成树实例,拓扑排序、字符串匹配算法和最小生成树是计算机科学中常用的数据结构和算法,它们在解决各种实际问题中具有重要的应用价值,需要的朋友可以参考下2023-08-08
最新评论