详解python3 + Scrapy爬虫学习之创建项目
最近准备做一个关于scrapy框架的实战，爬取腾讯社招信息并存储，这篇博客记录一下创建项目的步骤
pycharm是无法创建一个scrapy项目的
因此，我们需要用命令行的方法新建一个scrapy项目
请确保已经安装了scrapy，twisted，pypiwin32
一：进入你所需要的路径，这个路径存储你创建的项目
我的将放在E盘的Scrapy目录下
二：创建项目：scrapy startproject ***(这个是项目名)
这样就创建好了一个名为tencent的项目
三：进入项目新建一个爬虫：scrapy genspider tencent_spider hr.tencent.com
这里我们要注意，上面的命令，加黑的是爬虫名称，斜体是域名
这样，我们就新建了一个爬虫项目，打开文件夹查看
打开spiders
然后我们用pycharm打开
点击File —>open，找到项目所在文件夹，打开即可
这样，我们就新建了一个scrapy项目，如果安装了所需要的库，scrapy飘红，记得去切换解释器
在File—>settings的标红的地方
另外推荐大家，在根目录下新建一个start.py的文件并写入
from scrapy import cmdline
cmdline.execute("scrapy crawl tencent_spider".split())
这样，我们每次运行，运行start.py，即可，不用到命令行执行运行命令
鼠标右键tencent，新建python文件，即可创建。
以上所述是小编给大家介绍的python3 Scrapy爬虫创建项目详解整合，希望对大家有所帮助，如果大家有任何疑问请给我留言，小编会及时回复大家的。在此也非常感谢大家对脚本之家网站的支持！
相关文章
这篇文章主要介绍了10个Python面试常问的问题(小结)，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2019-11-11
这篇文章主要介绍了Python2升级/安装pip报错问题及解决方案,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教2024-03-03
由于矢量图层文件较多，手动发布费时费力，python支持的关于geoserver包又由于年久失修，无法在较新的geoserver版本中正常使用。本文为大家准备了Python自动化发布矢量文件的代码，需要的可以参考一下2022-07-07
FFT（Fast Fourier Transformation）是离散傅氏变换（DFT）的快速算法。即为快速傅氏变换。本文将用Python语言实现DIT-FFT算法，感兴趣的可以了解一下2022-10-10
numpy求矩阵的特征值与特征向量(np.linalg.eig函数用法)
这篇文章主要介绍了numpy求矩阵的特征值与特征向量(np.linalg.eig函数用法)，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教2023-02-02
Python+Selenium定位不到元素常见原因及解决办法(报：NoSuchElementException)
这篇文章主要介绍了Python+Selenium定位不到元素常见原因及解决办法(报：NoSuchElementException),文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2021-03-03
这篇文章主要给大家介绍了关于django如何连接已存在数据的数据库的相关资料，文中通过示例代码介绍的非常详细，对大家学习或者使用django具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2018-08-08
这篇文章主要为大家详细介绍了python如何提取英语pdf内容并翻译，文中示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2020-03-03
PyTorch中torch.tensor()和torch.to_tensor()的区别
在Pytorch中Tensor和tensor都用于生成新的张量,但二者并不相同,下面这篇文章主要给大家介绍了关于PyTorch中torch.tensor()和torch.to_tensor()区别的相关资料,需要的朋友可以参考下2023-01-01
Python 中的一个有用的基本加密库就叫做 cryptography 。这篇文章主要介绍了Python玩转加密的技巧,需要的朋友可以参考下2019-05-05
最新评论