Python爬虫：通过关键字爬取百度图片
使用工具：Python2.7 点我下载
scrapy框架
sublime text3
一。搭建python（Windows版本）
1.安装python2.7 ---然后在cmd当中输入python，界面如下则安装成功
2.集成Scrapy框架----输入命令行：pip install Scrapy
安装成功界面如下：
失败的情况很多，举例一种：
解决方案：
其余错误可百度搜索。
二。开始编程。
1.爬取无反爬虫措施的静态网站。例如百度贴吧，豆瓣读书。
例如-《桌面吧》的一个帖子https://tieba.baidu.com/p/2460150866?red_tag=3569129009
python代码如下：
代码注释：引入了两个模块urllib,re。定义两个函数，第一个函数是获取整个目标网页数据，第二个函数是在目标网页中获取目标图片，遍历网页，并且给获取的图片按照0开始排序。
注：re模块知识点:
爬取图片效果图：
图片保存路径默认在建立的.py同目录文件下。
2.爬取有反爬虫措施的百度图片。如百度图片等。
例如关键字搜索“表情包”https://image.baidu.com/search/index?tn=baiduimage&ct=201326592&lm=-1&cl=2&ie=gbk&word=%B1%ED%C7%E9%B0%FC&fr=ala&ori_query=%E8%A1%A8%E6%83%85%E5%8C%85&ala=0&alatpl=sp&pos=0&hs=2&xthttps=111111
图片采用滚动式加载，先爬取最优先的30张。
代码如下：
代码注释：导入4个模块，os模块用于指定保存路径。前两个函数同上。第三个函数使用了if语句，并tryException异常。
爬取过程如下：
爬取结果：
注：编写python代码注重对齐，and不能混用Tab和空格，易报错。
以上就是本文的全部内容，希望本文的内容对大家的学习或者工作能带来一定的帮助，同时也希望多多支持脚本之家！
相关文章
Pyramid将models.py文件的内容分布到多个文件的方法
默认的Pyramid代码结构中，就只有一个models.py文件，在实际项目中，如果需要对models进行分类，放到不同文件下，应该怎么办2013-11-11
这篇文章主要介绍了Selenium定时刷新网页的实现代码，小编觉得挺不错的，现在分享给大家，也给大家做个参考。一起跟随小编过来看看吧2018-10-10
这篇文章主要介绍了如何通过python实现语音录入识别,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下2020-01-01
这篇文章主要介绍了Django Haystack 全文检索与关键词高亮的实现，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2020-02-02
Python高级应用实例对比：高效计算大文件中的最长行的长度
在操作某个很多进程都要频繁用到的大文件的时候，应该尽早释放文件资源（f.close()）,只有这样才能算是一则高效率的代码，下面我们就来分析下这3种方法的优劣2014-06-06
今天小编就为大家分享一篇使用pytorch 实现tensor与numpy数组转换，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2019-12-12
这篇文章主要为大家介绍了Python全栈之CSS，具有一定的参考价值，感兴趣的小伙伴们可以参考一下，希望能够给你带来帮助2022-01-01
这篇文章主要为大家详细介绍了python根据txt文本批量创建文件夹，文中示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2019-03-03
Python作为一门功能强大的脚本语言，经常被用来写爬虫程序，下面是使用Python通过代理进行多线程抓取图片，算是一个简易的python多线程爬虫2014-03-03
这篇文章主要介绍了Python切片知识解析的相关资料,需要的朋友可以参考下2016-03-03
最新评论