scrapy 远程登录控制台的实现

 更新时间:2023年02月27日 09:06:50   作者:卑微小钟  
本文主要介绍了scrapy 远程登录控制台的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧

远程登录控制台

Scrapy附带一个内置的telnet控制台,用于检查和控制Scrapy运行过程。telnet控制台只是一个运行在scrappy进程内部的常规python shell,因此您可以从中做任何事情。

telnet控制台是一个 built-in Scrapy extension 它在默认情况下是启用的,但如果需要,您也可以禁用它。有关扩展本身的更多信息,请参阅 Telnet控制台扩展 。

警告

通过公共网络使用telnet控制台是不安全的,因为telnet不提供任何传输层安全性。拥有用户名/密码验证不会改变这一点。
预期用途是本地连接到正在运行的Scrapy Spider(Spider进程和Telnet客户端在同一台计算机上)或通过安全连接(VPN、SSH通道)进行连接。请避免在不安全的连接上使用telnet控制台,或使用 TELNETCONSOLE_ENABLED 选择权。

如何访问telnet控制台

telnet控制台侦听中定义的TCP端口 TELNETCONSOLE_PORT 设置,默认为 6023 . 要访问控制台,您需要键入:

telnet localhost 6023
Trying localhost...
Connected to localhost.
Escape character is '^]'.
Username:
Password:
>>>

默认用户名为 scrapy 密码是自动生成的。自动生成的密码可以在垃圾日志上看到,如下例所示:

2018-10-16 14:35:21 [scrapy.extensions.telnet] INFO: Telnet Password: 16f92501e8a59326
默认用户名和密码可以被设置覆盖 TELNETCONSOLE_USERNAME 和 TELNETCONSOLE_PASSWORD .

警告
用户名和密码仅提供有限的保护,因为telnet不使用安全传输-默认情况下,即使设置了用户名和密码,通信也不会加密。

您需要在Windows和大多数Linux发行版中默认安装的telnet程序。

telnet控制台中的可用变量

elnet控制台就像一个运行在scrappy进程内部的常规python shell,所以您可以从中做任何事情,包括导入新模块等。

但是,telnet控制台附带一些为方便起见而定义的默认变量:

捷径描述
crawler残废的爬虫 (scrapy.crawler.Crawler 对象)
enginecrawler.engine属性
spider主动蜘蛛
slot发动机槽
extensions扩展管理器(crawler.extensions属性)
statsstats收集器(crawler.stats属性)
settingsScrapy设置对象(crawler.settings属性)
est打印发动机状态报告
prefs内存调试(请参见 调试内存泄漏)
p到的快捷方式 pprint.pprint()功能
hpy内存调试(请参见 调试内存泄漏)

telnet控制台使用示例

以下是使用telnet控制台可以执行的一些示例任务:

查看发动机状态
你可以使用 est() scrapy引擎使用telnet控制台快速显示其状态的方法:

elnet localhost 6023
>>> est()
Execution engine status

time()-engine.start_time                        : 8.62972998619
len(engine.downloader.active)                   : 16
engine.scraper.is_idle()                        : False
engine.spider.name                              : followall
engine.spider_is_idle()                         : False
engine.slot.closing                             : False
len(engine.slot.inprogress)                     : 16
len(engine.slot.scheduler.dqs or [])            : 0
len(engine.slot.scheduler.mqs)                  : 92
len(engine.scraper.slot.queue)                  : 0
len(engine.scraper.slot.active)                 : 0
engine.scraper.slot.active_size                 : 0
engine.scraper.slot.itemproc_size               : 0
engine.scraper.slot.needs_backout()             : False

暂停、恢复和停止报废发动机

暂停:

telnet localhost 6023
>>> engine.pause()
>>>

恢复:

telnet localhost 6023
>>> engine.unpause()
>>>

停止:

telnet localhost 6023
>>> engine.stop()
Connection closed by foreign host.

Telnet控制台信号

scrapy.extensions.telnet.update_telnet_vars(telnet_vars)
在telnet控制台打开之前发送。您可以连接到这个信号来添加、删除或更新telnet本地命名空间中可用的变量。为此,需要更新 telnet_vars 听写你的处理程序。

参数
telnet_vars (dict) – telnet变量的dict

远程登录设置

以下是控制telnet控制台行为的设置:

TELNETCONSOLE_PORT

违约: [6023, 6073]

用于telnet控制台的端口范围。如果设置为 None 或 0 ,使用动态分配的端口。

TELNETCONSOLE_HOST

违约: '127.0.0.1'

telnet控制台应该监听的接口

TELNETCONSOLE_USERNAME

违约: 'scrapy'

用于telnet控制台的用户名

TELNETCONSOLE_PASSWORD

违约: None

telnet控制台使用的密码,默认行为是让它自动生成。

到此这篇关于scrapy 远程登录控制台的实现的文章就介绍到这了,更多相关scrapy 远程登录控制台内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • pytorch--之halfTensor的使用详解

    pytorch--之halfTensor的使用详解

    这篇文章主要介绍了pytorch--之halfTensor的使用详解,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2021-05-05
  • 使用Matplotlib 绘制精美的数学图形例子

    使用Matplotlib 绘制精美的数学图形例子

    今天小编就为大家分享一篇使用Matplotlib 绘制精美的数学图形例子,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2019-12-12
  • python opencv画局部放大图实例教程

    python opencv画局部放大图实例教程

    这篇文章主要给大家介绍了关于python opencv画局部放大图的相关资料,获取鼠标的单击相应以及鼠标的移动信息,进行放大功能的实现,需要的朋友可以参考下
    2021-10-10
  • Python os模块常用方法和属性总结

    Python os模块常用方法和属性总结

    这篇文章主要介绍了Python os模块常用方法和属性总结,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2020-02-02
  • python的描述器descriptor详解

    python的描述器descriptor详解

    这篇文章主要介绍了python的描述器descriptor详解,描述器可以用于控制属性的读取、写入和删除等操作,同时还可以用于实现计算属性、类属性、属性别名等高级功能,需要的朋友可以参考下
    2023-07-07
  • Python栈的实现方法示例【列表、单链表】

    Python栈的实现方法示例【列表、单链表】

    这篇文章主要介绍了Python栈的实现方法,结合实例形式分析了Python基于列表、单链表定义栈的相关操作技巧,需要的朋友可以参考下
    2020-02-02
  • Python中用Descriptor实现类级属性(Property)详解

    Python中用Descriptor实现类级属性(Property)详解

    这篇文章主要介绍了Python中用Descriptor实现类级属性(Property)详解,本文先是讲解了decorator是什么,然后给出了通过Descriptor来做一个类级的Property实例,需要的朋友可以参考下
    2014-09-09
  • 浅析Python装饰器以及装饰器模式

    浅析Python装饰器以及装饰器模式

    本篇文章给大家分享了关于Python装饰器以及装饰器模式的相关知识点,一起跟着小编学习下吧。
    2018-05-05
  • python selenium执行所有测试用例并生成报告的方法

    python selenium执行所有测试用例并生成报告的方法

    今天小编就为大家分享一篇python selenium执行所有测试用例并生成报告的方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2019-02-02
  • Python学习之路之pycharm的第一个项目搭建过程

    Python学习之路之pycharm的第一个项目搭建过程

    这篇文章主要介绍了Python学习之路之pycharm的第一个项目搭建过程,本文通过图文并茂的形式给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2020-06-06

最新评论