Python的爬虫包Beautiful Soup中用正则表达式来搜索
更新时间：2016年01月20日 11:34:02 作者：crifan
这篇文章主要介绍了Python的爬虫包Beautiful Soup中用正则表达式来搜索的技巧,包括使用正则表达式去搜索多种可能的关键字以及查找属性值未知的标签等,需要的朋友可以参考下
Beautiful Soup使用时，一般可以通过指定对应的name和attrs去搜索，特定的名字和属性，以找到所需要的部分的html代码。
但是，有时候，会遇到，对于要处理的内容中，其name或attr的值，有多种可能，尤其是符合某一规律，此时，就无法写成固定的值了。
所以，就可以借助正则表达式来解决此问题。
比如，
<div class="icon_col">
<h1 class="h1user">crifan</h1>
</div>
对应的BeautifulSoup代码如下：
h1userSoup = soup.find(name="h1", attrs={"class":"h1user"});
而如果html是这种：
<div class="icon_col">
<h1 class="h1user">crifan</h1>
<h1 class="h1user test1">crifan 123</h1>
<h1 class="h1user test2">crifan 456</h1>
</div>
那么想要一次性地找到所有的，符合条件的h1的部分的代码，则之前的写法，就只能找到单个的class="h1user"的部分，剩下的两个
class="h1user test1"
和
class="h1user test2"
就找不到了。
那么，此时，就可以用到，BeautifulSoup中非常好用的，非常强大的功能：
attrs中支持正则表达式的写法
了。
就可以写成：
h1userSoupList = soup.findAll(name="h1", attrs={"class":re.compile(r"h1user(\s\w+)?")});
就可以一次性地，找到：
class="h1user" class="h1user test1" class="h1user test2"
了。
<div aria-lable="xxx">
之类的标签，xxx的内容未知（可变）的前提下
想要查找到对应的此div标签，之前不知道如何实现。
如果写成：
sopu.findAll("div", attrs={"aria-lable": "xxx"});
则xxx必须写出来，如果不写出来属性值，也就没法用上attrs了，就没法实现此处查找特性属性值的标签了。
所以针对：
<div aria-label="5星, 747 份评分" class="rating" role="img" tabindex="-1"> <div> <span class="rating-star"> </span> <span class="rating-star"> </span> <span class="rating-star"> </span> <span class="rating-star"> </span> <span class="rating-star"> </span> </div> <span class="rating-count"> 747 份评分 </span> </div>
可以通过：
soup.findAll("div", attrs={"aria-lable": True});
去查找到属性包含aria-lable的div标签的。
所以，对于上面的，之前不知道如何处理：
用BeautifulSoup查找未知属性值，但是已知属性的名字的标签
则此处，就可以针对：
<div aria-lable="xxx">
去用：
sopu.findAll("div", attrs={"aria-lable": True});
就可以查找到对应的包含属性aria-lable的div标签了。
相关文章
这篇文章主要介绍了Python实现二叉搜索树BST的方法示例，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2019-07-07
这篇文章主要介绍了Python如何给函数库增加日志功能，文中讲解非常细致，代码帮助大家更好的理解和学习，感兴趣的朋友可以了解下2020-08-08
这篇文章主要介绍了Python requests库用法,结合实例形式分析了Request库的功能、安装、请求创建、响应等相关操作技巧,需要的朋友可以参考下2018-08-08
Python range、enumerate和zip函数用法详解
这篇文章主要介绍了Python range、enumerate和zip函数用法详解,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下2019-09-09
这篇文章主要为大家介绍了Python GUI布局工具Tkinter的基础，Tkinter 作为 Python 的标准库，是非常流行的 Python GUI 工具，同时也是非常容易学习的，今天我们就来开启 Tkinter的入门之旅2022-08-08
这篇文章主要介绍了基于Python制作美观动态圆环图、饼图,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下2020-06-06
坚持每天学一点，每天积累一点点，作为自己每天的业余收获，这个文章是我在吃饭的期间写的，利用自己零散的时间学了一下python操作MYSQL，所以整理一下。我采用的是MySQLdb操作的MYSQL数据库。先来一个简单的例子吧2013-10-10
本文详细介绍了Python logging日志模块的使用方法，包括如何在代码中使用logging记录调试信息、如何设置日志级别、如何记录异常信息等。通过本文的指南，读者可以快速学会如何使用logging模块进行调试，并保留有用的日志信息，便于后续排查问题和优化代码2023-04-04
这篇文章主要介绍了python被修饰的函数消失问题解决(基于wraps函数),文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下2019-11-11
Python版的消除类的游戏还是很多的，今天就出一个消除类——泡泡龙小游戏。文中的示例代码很详细，感兴趣的小伙伴快来跟随小编一起学习一下吧2021-12-12
最新评论