脚本之家 服务器常用软件
快捷导航
您的位置：首页 → 脚本专栏 → python → python XPath解析数据爬取起点小说网

python使用XPath解析数据爬取起点小说网数据

 更新时间：2021年04月22日 15:31:29   作者：互联网老辛  
这篇文章主要介绍了python使用XPath解析数据爬取起点小说网数据，帮助大家更好的理解和学习使用python，感兴趣的朋友可以了解下

1. xpath 的介绍

xpath是一门在XML文档中查找信息的语言

优点：

  • 可以在xml中找信息
  • 支持HTML的查找
  • 可以通过元素和属性进行导航

但是Xpath需要依赖xml的库，所以我们需要去安装lxml的库。

安装lxml库

我们先要安装lxml的库，直接在pycharm里安装即可：

XML的树形结构：

元素-元素-属性-文本

使用XPath选取节点：

  • nodename: 选取此节点的所有节点
  • /从根节点选择
  • // 从匹配选择的当前节点选择文档中的节点，而不考虑他们的位置
  • . 选择当前节点
  • .. 选择当前节点的父节点（此处是两个点，浏览器默认显示3个..）
  • /text() 获取当前路径下的文本内容
  • /@xxx 提取当前路径下标签的属性值

选取节点的表达式举例：

2. 爬取起点小说网

在浏览器中获取书名和作者测试

在谷歌里安装一个xpath的插件

在html中查找book-mid-info

我们要获取小说的名称： 也就是 //div[@class='book-mid-info']/h4/a/txt()

再加一个获取作者：

使用xpath获取起点小说网的数据

# 作者：互联网老辛
# 开发时间：2021/4/8/0008 8:24

import requests
from lxml import etree
url="https://www.qidian.com/rank/yuepiao"
headers={'user-agent':'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.25 Safari/537.36 Core/1.70.3861.400 QQBrowser/10.7.4313.400'}
#发送请求
resp=requests.get(url,headers)
e=etree.HTML(resp.text) #类型转换，把str转变为class 'lxml.etree._ELement
print(type(e))
names=e.xpath('//div[@class="book-mid-info"]/h4/a/text()')
authors=e.xpath('//p[@class="author"]/a[1]/text()')
print(names)
print(authors)
#名称和作者对应
for name,authors in zip(names,authors):
    print(name,":",authors)

以上就是python使用XPath解析数据爬取起点小说网数据的详细内容，更多关于python XPath解析数据爬取起点小说网的资料请关注脚本之家其它相关文章！

您可能感兴趣的文章:

相关文章

  • 详解Python的函数与异常

    详解Python的函数与异常

    这篇文章主要为大家介绍了Python的函数与异常，具有一定的参考价值，感兴趣的小伙伴们可以参考一下，希望能够给你带来帮助
    2021-11-11
  • Ubuntu+python将nii图像保存成png格式

    Ubuntu+python将nii图像保存成png格式

    这篇文章主要介绍了Ubuntu+python将nii图像保存成png格式，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
    2019-07-07
  • Python爬取个人微信朋友信息操作示例

    Python爬取个人微信朋友信息操作示例

    这篇文章主要介绍了Python爬取个人微信朋友信息操作,涉及Python使用itchat包实现微信朋友信息爬取操作相关实现技巧,需要的朋友可以参考下
    2018-08-08
  • Python Decorator装饰器的创建方法及常用场景分析

    Python Decorator装饰器的创建方法及常用场景分析

    这篇文章主要介绍了Python Decorator装饰器的创建方法及常用场景,装饰器可以分成方法装饰器和类装饰器，他们的区别是一个是用函数实现的装饰器，一个是用类实现的装饰器，他们也都能在方法和类上进行装饰，需要的朋友可以参考下
    2022-07-07
  • python实现书法碑帖图片分割

    python实现书法碑帖图片分割

    这篇文章主要为大家详细介绍了python实现书法碑帖图片分割，文中示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下
    2021-03-03
  • 在 Python 中解析 ISO 8601 日期的详细过程

    在 Python 中解析 ISO 8601 日期的详细过程

    这篇文章主要介绍了在 Python 中解析 ISO 8601 日期,我们将讨论典型的 ISO 8601 日期的结构,并向您展示如何将典型的 DateTime 对象解析为可以在所有地方使用的标准化 DateTime,需要的朋友可以参考下
    2023-08-08
  • Python操作Excel数据的封装函数分享

    Python操作Excel数据的封装函数分享

    对比其它编程语言，我们都知道Python最大的优势是代码简单，有丰富的第三方开源库供开发者使用。而对于数据的读取和存储，对于普通人来讲，除了数据库之外，最常见的就是微软的Excel。本文为大家准备了Python操作Excel数据的封装函数，希望对大家有所帮助
    2022-11-11
  • python multiprocessing多进程变量共享与加锁的实现

    python multiprocessing多进程变量共享与加锁的实现

    这篇文章主要介绍了python multiprocessing多进程变量共享与加锁的实现，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
    2019-10-10
  • tensorflow实现简单逻辑回归

    tensorflow实现简单逻辑回归

    逻辑回归是一种分类器模型，这篇文章主要介绍了tensorflow实现简单逻辑回归，具有一定的参考价值，感兴趣的小伙伴们可以参考一下
    2018-09-09
  • Python统计列表中每个元素出现次数的4种实现

    Python统计列表中每个元素出现次数的4种实现

    本文主要介绍了Python统计列表中每个元素出现次数的4种实现，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
    2023-07-07

最新评论