Pycharm安装scrapy及初始化爬虫项目的完整步骤
一）安装scrapy：
1、打开cmd命令窗口，输入：pip install Scrapy。
2、安装成功之后会显示下面字符，表示未将scrapy设置到环境变量。
3、配置环境变量：右键我的电脑-->属性-->高级设置--->环境变量---->系统变量中的Path--->编辑--->添加--->将上文中黄色的路径添加到环境变量即可。
4、scrapy安装完毕。
二）创建一个scrapy爬虫项目：
1、创建一个普通的Pycharm项目，然后找到下面的terminal
2、输入命令scrapy startproject 模块名称(可以自己随便起，我以名为mine为例)，成功之后你会发现自己的项目中多了一个mine的包文件。
3、上述操作成功后终端会显示下图文字：此时我们输入cd那条命令。进入目标文件。
4、这时就可以创建爬虫目标文件啦，
输入scrapy genspider 爬取名 网站域名
1、爬取名是自己随便起的，比如我要爬百度那么我就可以起名为baidu
2、网站域名就是去掉 https:www. 剩下的部分，以博客园的为例：
网址为：https://www.cnblogs.com/
域名为 cnblogs.com
2和3操作截图：
5、此时我们会在目录里看见一个新的py文件：里自动生成如下代码：
三）开启pycharm对scrapy框架的调试功能：
由于pycharm没有创建scrapy框架的模块，所以我们想调试scrapy程序时要自己写一个小脚本来开启pycharm对scrapy的调试功能。
1、在与mine包同级条件下创建一个main.py文件：
2、mine文件将一下代码赋值进去：
import os import sys from scrapy.cmdline import execute sys.path.append(os.path.dirname(os.path.abspath(__file__))) execute(["scrapy", "crawl", "cnblog"]) # 第三个参数为自己创建的那个爬取的名称
这样就大功告成啦！
总结
到此这篇关于Pycharm安装scrapy及初始化爬虫项目的文章就介绍到这了,更多相关Pycharm安装scrapy初始化爬虫项目内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！
相关文章
本文给大家分享了如何提高pip install速度的方法,其实就是将默认源替换为国内高速的源,非常的简单实用,有需要的小伙伴可以参考下2020-02-02
这篇文章主要介绍了python的urllib模块显示下载进度的示例，大家参考使用吧2014-01-01
今天小编就为大家分享一篇修改默认的pip版本为对应python2.7的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2018-11-11
这篇文章主要为大家详细介绍了如何使用Spire.Doc for Python在程序中的轻松添加文字和图像水印到Word文档,感兴趣的小伙伴可以跟随小编一起了解一下2023-10-10
python SQLAlchemy的Mapping与Declarative详解
这篇文章主要介绍了python SQLAlchemy的Mapping与Declarative详解,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下2019-07-07
所谓决策树，就是一个类似于流程图的树形结构，树内部的每一个节点代表的是对一个特征的测试，树的分支代表该特征的每一个测试结果，而树的每一个叶子节点代表一个类别。树的最高层是就是根节点2022-01-01
这篇文章主要介绍了Python 去除字符串中指定字符串,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2020-03-03
为了想要抢到想要的商品，想了个用Python实现python淘宝准点秒杀抢单方案，需要的朋友们下面随着小编来一起学习学习吧2021-05-05
这篇文章主要介绍了Python单元测试框架unittest使用方法讲解,本文讲解了unittest概述、命令行接口、测试案例自动搜索、创建测试代码、构建测试套件方法等内容,需要的朋友可以参考下2015-04-04
这篇文章主要介绍了使用py-spy解决scrapy卡死的问题方法，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2020-09-09
最新评论