Python爬取OPGG上英雄联盟英雄胜率及选取率信息的操作

 更新时间:2021年04月21日 09:37:36   作者:HuskySir  
这篇文章主要介绍了Python爬取OPGG上英雄联盟英雄胜率及选取率信息的操作,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧

本次爬取网站为opgg,网址为:” http://www.op.gg/champion/statistics”

由网站界面可以看出,右侧有英雄的详细信息,以Garen为例,胜率为53.84%,选取率为16.99%,常用位置为上单

现对网页源代码进行分析(右键鼠标在菜单中即可找到查看网页源代码)。通过查找“53.84%”快速定位Garen所在位置

由代码可看出,英雄名、胜率及选取率都在td标签中,而每一个英雄信息在一个tr标签中,td父标签为tr标签,tr父标签为tbody标签。

对tbody标签进行查找

代码中共有5个tbody标签(tbody标签开头结尾均有”tbody”,故共有10个”tbody”),对字段内容分析,分别为上单、打野、中单、ADC、辅助信息

以上单这部分英雄为例,我们需要首先找到tbody标签,然后从中找到tr标签(每一条tr标签就是一个英雄的信息),再从子标签td标签中获取英雄的详细信息

二、爬取步骤

爬取网站内容->提取所需信息->输出英雄数据

getHTMLText(url)->fillHeroInformation(hlist,html)->printHeroInformation(hlist)

getHTMLText(url)函数是返回url链接中的html内容

fillHeroInformation(hlist,html)函数是将html中所需信息提取出存入hlist列表中

printHeroInformation(hlist)函数是输出hlist列表中的英雄信息

三、代码实现

1、getHTMLText(url)函数

def getHTMLText(url): #返回html文档信息
    try:
        r = requests.get(url,timeout = 30)
        r.raise_for_status()
        r.encoding = r.apparent_encoding
        return r.text #返回html内容
    except:
        return ""

2、fillHeroInformation(hlist,html)函数

以一个tr标签为例,tr标签内有7个td标签,第4个td标签内属性值为"champion-index-table__name"的div标签内容为英雄名,第5个td标签内容为胜率,第6个td标签内容为选取率,将这些信息存入hlist列表中

def fillHeroInformation(hlist,html): #将英雄信息存入hlist列表
    soup = BeautifulSoup(html,"html.parser")
    for tr in soup.find(name = "tbody",attrs = "tabItem champion-trend-tier-TOP").children: #遍历上单tbody标签的儿子标签
        if isinstance(tr,bs4.element.Tag): #判断tr是否为标签类型,去除空行
            tds = tr('td') #查找tr标签下的td标签
            heroName = tds[3].find(attrs = "champion-index-table__name").string #英雄名
            winRate = tds[4].string #胜率
            pickRate = tds[5].string #选取率
            hlist.append([heroName,winRate,pickRate]) #将英雄信息添加到hlist列表中

3、printHeroInformation(hlist)函数

 def printHeroInformation(hlist): #输出hlist列表信息
     print("{:^20}\t{:^20}\t{:^20}\t{:^20}".format("英雄名","胜率","选取率","位置"))
     for i in range(len(hlist)):
         i = hlist[i]
         print("{:^20}\t{:^20}\t{:^20}\t{:^20}".format(i[0],i[1],i[2],"上单"))

4、main()函数

网站地址赋值给url,新建一个hlist列表,调用getHTMLText(url)函数获得html文档信息,使用fillHeroInformation(hlist,html)函数将英雄信息存入hlist列表,再使用printHeroInformation(hlist)函数输出信息

 def main():
     url = "http://www.op.gg/champion/statistics"
     hlist = []
     html = getHTMLText(url) #获得html文档信息
     fillHeroInformation(hlist,html) #将英雄信息写入hlist列表
     printHeroInformation(hlist) #输出信息

四、结果演示

1、网站界面信息

2、爬取结果

五、完整代码

import requests #导入requests库
import bs4 #导入bs4库
from bs4 import BeautifulSoup #导入BeautifulSoup库
def getHTMLText(url): #返回html文档信息
    try:
        r = requests.get(url,timeout = 30)
        r.raise_for_status()
        r.encoding = r.apparent_encoding
        return r.text #返回html内容
    except:
        return ""
def fillHeroInformation(hlist,html): #将英雄信息存入hlist列表
    soup = BeautifulSoup(html,"html.parser")
    for tr in soup.find(name = "tbody",attrs = "tabItem champion-trend-tier-TOP").children: #遍历上单tbody标签的儿子标签
        if isinstance(tr,bs4.element.Tag): #判断tr是否为标签类型,去除空行
            tds = tr('td') #查找tr标签下的td标签
            heroName = tds[3].find(attrs = "champion-index-table__name").string #英雄名
            winRate = tds[4].string #胜率
            pickRate = tds[5].string #选取率
            hlist.append([heroName,winRate,pickRate]) #将英雄信息添加到hlist列表中
def printHeroInformation(hlist): #输出hlist列表信息
    print("{:^20}\t{:^20}\t{:^20}\t{:^20}".format("英雄名","胜率","选取率","位置"))
    for i in range(len(hlist)):
        i = hlist[i]
        print("{:^20}\t{:^20}\t{:^20}\t{:^20}".format(i[0],i[1],i[2],"上单"))
def main():
    url = "http://www.op.gg/champion/statistics"
    hlist = []
    html = getHTMLText(url) #获得html文档信息
    fillHeroInformation(hlist,html) #将英雄信息写入hlist列表
    printHeroInformation(hlist) #输出信息
main()

如果需要爬取打野、中单、ADC或者辅助信息,只需要修改

fillHeroInformation(hlist,html)

函数中的

for tr in soup.find(name = "tbody",attrs = "tabItem champion-trend-tier-TOP").children语句

将attrs属性值修改为

"tabItem champion-trend-tier-JUNGLE"

"tabItem champion-trend-tier-MID"

"tabItem champion-trend-tier-ADC"

"tabItem champion-trend-tier-SUPPORT"

等即可!

以上为个人经验,希望能给大家一个参考,也希望大家多多支持脚本之家。如有错误或未考虑完全的地方,望不吝赐教。

相关文章

  • Python中的反射知识点总结

    Python中的反射知识点总结

    在本篇文章里小编给大家整理了一篇关于Python中的反射知识点总结内容,有需要的朋友们可以跟着学习参考下。
    2021-11-11
  • 详解Django中的form库的使用

    详解Django中的form库的使用

    这篇文章主要介绍了详解Django中的form库的使用,Django是最为著名的Python编程框架,需要的朋友可以参考下
    2015-07-07
  • Python的高阶函数用法实例分析

    Python的高阶函数用法实例分析

    这篇文章主要介绍了Python的高阶函数用法,结合实例形式分析了Python针对字符串、列表转换、运算、过滤等操作函数相关使用技巧与注意事项,需要的朋友可以参考下
    2019-04-04
  • Python实现解析路径字符串并获取每个文件夹名称

    Python实现解析路径字符串并获取每个文件夹名称

    在 Python 中,解析路径字符串并获取每个文件夹的名称是一项常见的任务,这篇文章主要为大家详细介绍了Python解析路径字符串的具体方法,希望对大家有所帮助
    2024-04-04
  • Python数据可视化实现正态分布(高斯分布)

    Python数据可视化实现正态分布(高斯分布)

    这篇文章主要介绍了Python数据可视化实现正态分布(高斯分布),文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2019-08-08
  • python如何实现convolution neural network卷积神经网络算法

    python如何实现convolution neural network卷积神经网络算法

    卷积神经网络(CNN)是深度学习中重要的算法之一,主要应用于图像识别和处理领域,其基本原理是模拟人类视觉系统,通过卷积层、激活函数和池化层等组件提取图像的特征,并通过全连接层进行分类或其他任务,CNN训练过程中使用大量标记图像数据
    2024-10-10
  • python中bisect模块用法实例

    python中bisect模块用法实例

    这篇文章主要介绍了python中bisect模块用法实例,以实例形式介绍了bisect模块中几种常见函数的用法,非常具有实用价值,需要的朋友可以参考下
    2014-09-09
  • Python中判断input()输入的数据的类型

    Python中判断input()输入的数据的类型

    在pyhton中,经常会用到input()语句,但是input()语句输入的内容只能是字符串类型,而我们经常要输入int类型的数据等,这个时候就需要用到int()方法给输入的内容强制转换,今天小编给大家介绍下Python中判断input()输入的数据的类型,感兴趣的朋友跟随小编一起看看吧
    2022-11-11
  • YOLOv5车牌识别实战教程(四)模型优化与部署

    YOLOv5车牌识别实战教程(四)模型优化与部署

    这篇文章主要介绍了YOLOv5车牌识别实战教程(四)模型优化与部署,在这个教程中,我们将一步步教你如何使用YOLOv5进行车牌识别,帮助你快速掌握YOLOv5车牌识别技能,需要的朋友可以参考下
    2023-04-04
  • python使用matplotlib绘制等高线图的两种方法

    python使用matplotlib绘制等高线图的两种方法

    在matplotlib.pyplot 中除了可以绘制常规图表如折线、柱状、散点等,还可以绘制常用在地理上的平面展示地型的等高线图,在本中,我们将详细学习matplotlib 绘制等高线图相关属性的学习,需要的朋友可以参考下
    2023-11-11

最新评论