脚本之家 服务器常用软件
快捷导航
您的位置：首页 → 脚本专栏 → python → Python的BeautifulSoup库使用

Python使用BeautifulSoup库解析HTML基本使用教程

 更新时间：2016年03月31日 16:07:00   作者：kuring  
这篇文章主要介绍了Python使用BeautifulSoup库解析HTML基本使用教程,文中主要对其适合于制作爬虫方面的特性进行了解析,需要的朋友可以参考下

 BeautifulSoup是Python的一个第三方库，可用于帮助解析html/XML等内容，以抓取特定的网页信息。目前最新的是v4版本，这里主要总结一下我使用的v3版本解析html的一些常用方法。

准备

1.Beautiful Soup安装

为了能够对页面中的内容进行解析，本文使用Beautiful Soup。当然，本文的例子需求较简单，完全可以使用分析字符串的方式。

执行

sudo easy_install beautifulsoup4

即可安装。

2.requests模块的安装

requests模块用于加载要请求的web页面。

在python的命令行中输入import requests，报错说明requests模块没有安装。

我这里打算采用easy_install的在线安装方式安装，发现系统中并不存在easy_install命令，输入sudo apt-get install python-setuptools来安装easy_install工具。

执行sudo easy_install requests安装requests模块。

基础

1.初始化
   导入模块

#!/usr/bin/env python
from BeautifulSoup import BeautifulSoup    #process html
#from BeautifulSoup import BeautifulStoneSoup #process xml
#import BeautifulSoup             #all

    创建对象：str初始化，常用urllib2或browser返回的html初始化BeautifulSoup对象。

doc = ['hello',
    '
This is paragraph one of ptyhonclub.org.',
    '
This is paragraph two of pythonclub.org.',
    '']
soup = BeautifulSoup(''.join(doc))

    指定编码：当html为其他类型编码（非utf-8和asc ii），比如GB2312的话，则需要指定相应的字符编码，BeautifulSoup才能正确解析。

htmlCharset = "GB2312"
soup = BeautifulSoup(respHtml, fromEncoding=htmlCharset)

2.获取tag内容
   寻找感兴趣的tag块内容，返回对应tag块的剖析树

head = soup.find('head')
#head = soup.head
#head = soup.contents[0].contents[0]
print head

    返回内容：hello
   说明一下，contents属性是一个列表，里面保存了该剖析树的直接儿子。

html = soup.contents[0]    # <html> ... </html>
head = html.contents[0]    # <head> ... </head>
body = html.contents[1]    # <body> ... </body>

3.获取关系节点
   使用parent获取父节点

body = soup.body
html = body.parent       # html是body的父亲

    使用nextSibling, previousSibling获取前后兄弟

head = body.previousSibling  # head和body在同一层，是body的前一个兄弟
p1 = body.contents[0]     # p1, p2都是body的儿子，我们用contents[0]取得p1
p2 = p1.nextSibling      # p2与p1在同一层，是p1的后一个兄弟, 当然body.content[1]也可得到

    contents[]的灵活运用也可以寻找关系节点,寻找祖先或者子孙可以采用findParent(s), findNextSibling(s), findPreviousSibling(s)

4.find/findAll用法详解
   函数原型：find(name=None, attrs={}, recursive=True, text=None, **kwargs)，findAll会返回所有符合要求的结果，并以list返回。
   tag搜索

find(tagname)                 # 直接搜索名为tagname的tag 如：find('head')
find(list)                   # 搜索在list中的tag，如: find(['head', 'body'])
find(dict)                   # 搜索在dict中的tag，如:find({'head':True, 'body':True})
find(re.compile(''))              # 搜索符合正则的tag, 如:find(re.compile('^p')) 搜索以p开头的tag
find(lambda)            # 搜索函数返回结果为true的tag, 如:find(lambda name: if len(name) == 1) 搜索长度为1的tag
find(True)                   # 搜索所有tag

   attrs搜索

find(id='xxx')                 # 寻找id属性为xxx的
find(attrs={id=re.compile('xxx'), algin='xxx'}) # 寻找id属性符合正则且algin属性为xxx的
find(attrs={id=True, algin=None})        # 寻找有id属性但是没有algin属性的


resp1 = soup.findAll('a', attrs = {'href': match1})
resp2 = soup.findAll('h1', attrs = {'class': match2})
resp3 = soup.findAll('img', attrs = {'id': match3})

text搜索
文字的搜索会导致其他搜索给的值如：tag, attrs都失效。方法与搜索tag一致

print p1.text
# u'This is paragraphone.'
print p2.text
# u'This is paragraphtwo.'
# 注意：1，每个tag的text包括了它以及它子孙的text。2，所有text已经被自动转为unicode，如果需要，可以自行转码encode(xxx)

recursive和limit属性
recursive=False表示只搜索直接儿子，否则搜索整个子树，默认为True。当使用findAll或者类似返回list的方法时，limit属性用于限制返回的数量，如findAll('p', limit=2)： 返回首先找到的两个tag。

实例
本文以博客的文档列表页面为例，利用python对页面中的文章名进行提取。

文章列表页中的文章列表部分的url如下：

<ul class="listing">
  <li class="listing-item"><span class="date">2014-12-03</span><a href="/post/linux_funtion_advance_feature" title="Linux函数高级特性" >Linux函数高级特性</a>
  </li>
  <li class="listing-item"><span class="date">2014-12-02</span><a href="/post/cgdb" title="cgdb的使用" >cgdb的使用</a>
  </li>
...
</ul>

代码：

#!/usr/bin/env python                                                                              
# -*- coding: utf-8 -*-

' a http parse test programe '

__author__ = 'kuring lv'


import requests
import bs4

archives_url = "http://kuring.me/archive"

def start_parse(url) :
  print "开始获取(%s)内容" % url
  response = requests.get(url)
  print "获取网页内容完毕"

  soup = bs4.BeautifulSoup(response.content.decode("utf-8"))
  #soup = bs4.BeautifulSoup(response.text);

  # 为了防止漏掉调用close方法，这里使用了with语句
  # 写入到文件中的编码为utf-8
  with open('archives.txt', 'w') as f :
    for archive in soup.select("li.listing-item a") :
      f.write(archive.get_text().encode('utf-8') + "\n")
      print archive.get_text().encode('utf-8')

# 当命令行运行该模块时，__name__等于'__main__'
# 其他模块导入该模块时，__name__等于'parse_html'
if __name__ == '__main__' :
  start_parse(archives_url)

您可能感兴趣的文章:

相关文章

  • pycharm实现猜数游戏

    pycharm实现猜数游戏

    这篇文章主要为大家详细介绍了pycharm实现猜数游戏，文中示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下
    2020-12-12
  • python字符串常用方法

    python字符串常用方法

    这篇文章主要介绍了python字符串常用方法，find、count、replace、split、startswith、endswith等多种方法,需要的朋友可以参考一下文章得具体内容，希望对你有所帮助
    2021-10-10
  • 基于wxpython实现的windows GUI程序实例

    基于wxpython实现的windows GUI程序实例

    这篇文章主要介绍了基于wxpython实现的windows GUI程序,实例分析了windows GUI程序的相关实现技巧,需要的朋友可以参考下
    2015-05-05
  • 基于Python实现一个简易的数据管理系统

    基于Python实现一个简易的数据管理系统

    为了方便的实现记录数据、修改数据没有精力去做一个完整的系统去管理数据。因此，在python的控制台直接实现一个简易的数据管理系统，包括数据的增删改查等等。感兴趣的可以跟随小编一起学习一下
    2021-12-12
  • Python利用wxPython模块打造ChatGPT式打字效果程序

    Python利用wxPython模块打造ChatGPT式打字效果程序

    这篇文章主要为大家介绍了如何利用Python和wxPython模块打造一个ChatGPT式打字效果程序，从而增强用户体验或提高应用程序的可读性，感兴趣的可以了解一下
    2023-05-05
  • Django与pyecharts结合的实例代码

    Django与pyecharts结合的实例代码

    这篇文章主要介绍了Django与pyecharts结合的实例代码，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
    2020-05-05
  • Python json格式化打印实现过程解析

    Python json格式化打印实现过程解析

    这篇文章主要介绍了Python json格式化打印实现过程解析,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2020-07-07
  • pycharm debug 断点调试心得分享

    pycharm debug 断点调试心得分享

    这篇文章主要介绍了pycharm debug 断点调试心得分享，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
    2021-04-04
  • 利用Python学习RabbitMQ消息队列

    利用Python学习RabbitMQ消息队列

    RabbitMQ和邮局的主要区别就是RabbitMQ接收、存储和发送的是二进制数据----消息，本篇文章给大家介绍利用Python学习RabbitMQ消息队列，对python消息队列相关知识感兴趣的朋友参考下
    2015-11-11
  • python实现单例的两种方法解读

    python实现单例的两种方法解读

    这篇文章主要介绍了python实现单例的两种方法，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教
    2023-03-03

最新评论