Python3实现爬虫爬取赶集网列表功能【基于request和BeautifulSoup模块】
更新时间：2018年12月05日 10:40:37 作者：包子源
这篇文章主要介绍了Python3实现爬虫爬取赶集网列表功能,结合实例形式分析了Python3基于request和BeautifulSoup模块的网站页面爬取相关操作技巧,需要的朋友可以参考下
本文实例讲述了Python3实现爬虫爬取赶集网列表功能。分享给大家供大家参考，具体如下：
python3爬虫之爬取赶集网列表。这几天一直在学习使用python3爬取数据，今天记录一下，代码很简单很容易上手。
首先需要安装python3。如果还没有安装，可参考本站前面关于python3安装与配置相关文章。
首先需要安装request和BeautifulSoup两个模块
request是Python的HTTP网络请求模块，使用Requests可以轻而易举的完成浏览器可有的任何操作
pip install requests
BeautifulSoup是用Python写的一个HTML/XML的解析器，它可以很好的处理不规范标记并生成剖析树
pip install beautifulsoup4
代码：
from urllib import request
from bs4 import BeautifulSoup
#构造头文件，模拟浏览器访问
url="http://xa.ganji.com/meirdjm/o2/"
headers = {'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.77 Safari/537.36'}
page = request.Request(url,headers=headers)
# 发送请求，获取内容
page_info = request.urlopen(page).read().decode('utf-8')
# 将获取到的内容转换成BeautifulSoup格式，并将html.parser作为解析器
soup = BeautifulSoup(page_info, 'html.parser')
# 查找所有a标签中class='list-info-title'
titles = soup.find_all('a',class_="list-info-title")
# 打印抓取到的title
for title in titles:
print(title.string)
结果：
更多关于Python相关内容可查看本站专题：《Python Socket编程技巧总结》、《Python正则表达式用法总结》、《Python数据结构与算法教程》、《Python函数使用技巧总结》、《Python字符串操作技巧汇总》、《Python入门与进阶经典教程》及《Python文件与目录操作技巧汇总》
希望本文所述对大家Python程序设计有所帮助。
相关文章
这篇文章主要介绍了python 七种邮件内容发送方法实例,需要的朋友可以参考下2014-04-04
在本篇文章里我们给大家分享了一篇关于python+selenium实现自动化百度搜索关键词的实例文章，需要的朋友们可以跟着操作下。2019-06-06
这篇文章主要介绍了基于python实现cdn日志文件导入mysql进行分析，本文以阿里云CDN日志作为辅助查询数据展开主题内容，其它云平台大同小异，需要的小伙伴可以参考一下2022-05-05
这篇文章给大家介绍了python从zip中删除指定后缀文件，然后再自动压缩，本文给大家提供了源码参考，感兴趣的朋友跟随小编一起看看吧2019-12-12
这篇文章主要介绍了pytorch实现查看当前学习率，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2020-06-06
这篇文章主要介绍了python字典通过值反查键的实现(简洁写法)，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2020-09-09
这篇文章主要介绍了Python 数据的累加与统计的示例代码，文中讲解非常细致，代码帮助大家更好的理解和学习，感兴趣的朋友可以了解下2020-08-08
本文将介绍一些Python容器类型的使用小技巧,以便更高效地处理数据和提升编程技能,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪2023-11-11
使用python在网络上传送图片数据,需要以byte格式读取图片,这样才可以通过socket传输,本文就来介绍了python用socket传输图片的项目实践,具有一定的参考价值,感兴趣的可以了解一下2024-02-02
这篇文章主要介绍了python实现多线程暴力破解登陆路由器功能代码分享,本文直接给出实现代码,需要的朋友可以参考下2015-01-01
最新评论