Python爬虫实现selenium处理iframe作用域问题
更新时间：2021年01月27日 09:29:27 作者：Master先生
这篇文章主要介绍了Python爬虫实现selenium处理iframe作用域问题，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
项目场景：
在使用selenium模块进行数据爬取时，通常会遇到爬取iframe中的内容。会因为定位的作用域问题爬取不到数据。
问题描述：
我们以菜鸟教程的运行实例为案例。
按照正常的定位
会以文本块生成xpath为/html/body/text()。这样的话根据xpath进行如下代码编写。
#!/user/bin/
# -*- coding:UTF-8 -*-
# Author:Master
from selenium import webdriver
import time
driver = webdriver.Chrome(executable_path="./chromedriver")
driver.get('https://www.runoob.com/try/runcode.php?filename=HelloWorld&type=python3')
time.sleep(2)
text = driver.find_element_by_xpath('/html/body').text
print(text)
time.sleep(5)
driver.quit()
执行结果：
很明显这并不是想要的结果。
原因分析：
当我们打开抓包工具定位到Hello, World!文本的时候会发现，该文本是在一个iframe中。这样的话我们xpath所定位到的内容则是大的html中的路径。我们需要的内容则是在iframe中的小的html中。
解决方案：
通过分析发现，想要解决问题的实质就是改变作用域。通过switch_to.frame(‘id')方法来改变作用域就可以了。
重新编写代码：
#!/user/bin/
# -*- coding:UTF-8 -*-
# Author:Master
from selenium import webdriver
import time
driver = webdriver.Chrome(executable_path="./chromedriver")
driver.get('https://www.runoob.com/try/runcode.php?filename=HelloWorld&type=python3')
time.sleep(2)
driver.switch_to.frame('iframeResult')
text = driver.find_element_by_xpath('/html/body').text
print(text)
time.sleep(5)
driver.quit()
查看运行结果：
到此这篇关于Python爬虫实现selenium处理iframe作用域问题的文章就介绍到这了,更多相关selenium iframe作用域内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！
相关文章
PS的扩散效果可以产生类似毛玻璃质感的效果，使画面有些毛毛的感觉。接下来通过本文给大家分享OpenCV-PS扩散毛玻璃效果的实现代码，一起看看吧2021-09-09
在数据处理和分析中,Pandas是一个非常强大的Python库,本文主要介绍了pandas中DataFrame字典互转的实现,文中通过示例代码介绍的非常详细,需要的朋友们下面随着小编来一起学习学习吧2024-04-04
这篇文章主要介绍了解决pycharm下pyuic工具使用的问题，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2020-04-04
这篇文章主要介绍了Python如何基于smtplib发不同格式的邮件,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下2019-12-12
今天小编就为大家分享一篇Pytorch实现LSTM和GRU示例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2020-01-01
聚类是一种机器学习技术，它涉及到数据点的分组，聚类是一种无监督学习的方法，是许多领域中常用的统计数据分析技术。本文给大家分享Python实现DBSCAN聚类算法并样例测试，感兴趣的朋友一起看看吧2021-06-06
python类参数定义及数据扩展方式unsqueeze/expand
本文主要介绍了python类参数定义及数据扩展方式unsqueeze/expand，文章通过围绕主题展开详细的内容介绍，具有一定的参考价值，需要的小伙伴可以参考一下2022-08-08
django-rest-swagger对API接口注释的方法
今天小编就为大家分享一篇django-rest-swagger对API接口注释的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2019-08-08
这篇文章主要介绍了python实现超简单端口转发的方法,实例分析了Python同构socket实现端口转发的技巧,具有一定参考借鉴价值,需要的朋友可以参考下2015-03-03
Django + Taro 前后端分离项目实现企业微信登录功能
这篇文章主要介绍了Django + Taro 前后端分离项目实现企业微信登录功能,本文记录一下企业微信登录的流程,结合示例代码给大家分享实现思路，需要的朋友可以参考下2022-04-04
最新评论