C#使用Selenium+PhantomJS抓取数据
更新时间：2017年02月21日 15:52:16 作者：挖宝居士
本文主要介绍了C#使用Selenium+PhantomJS抓取数据的方法步骤，具有很好的参考价值，下面跟着小编一起来看下吧
手头项目需要抓取一个用js渲染出来的网站中的数据。使用常用的httpclient抓回来的页面是没有数据。上网百度了一下，大家推荐的方案是使用PhantomJS。PhantomJS是一个没有界面的webkit浏览器，能够和浏览器效果一致的使用js渲染页面。Selenium是一个web测试框架。使用Selenium来操作PhantomJS绝配。但是网上的例子多是Python的。无奈，下载了python按照教程搞了一下，卡在了Selenium的导入问题上。遂放弃，还是用自己惯用的c#吧，就不信c#上没有。经过半个小时的折腾，搞定（python折腾了一个小时）。记录下这篇博文，让我等搞c#的新手能用上PhantomJS。
第一步：打开visual studio 2017 新建一个控制台项目，打开nuget包管理器。
第二部：搜索Selenium，安装Selenium.WebDriver。注意：如果要使用代理的话最好安装3.0.0版本。
第三步：写下如下图所示的代码。但是执行的时候会报错。原因是找不到PhantomJS.exe。这时候可以去下载一个，也可以继续看第四步。
using OpenQA.Selenium;
using OpenQA.Selenium.PhantomJS;
using System;
namespace ConsoleApp1
{
class Program
{
static void Main(string[] args)
{
var url = "http://www.baidu.com";
IWebDriver driver = new PhantomJSDriver(GetPhantomJSDriverService());
driver.Navigate().GoToUrl(url);
Console.WriteLine(driver.PageSource);
Console.Read();
}
private static PhantomJSDriverService GetPhantomJSDriverService()
{
PhantomJSDriverService pds = PhantomJSDriverService.CreateDefaultService();
//设置代理服务器地址
//pds.Proxy = $"{ip}:{port}";
//设置代理服务器认证信息
//pds.ProxyAuthentication = GetProxyAuthorization();
return pds;
}
}
}
第四步：打开nuget安装Selenium.PhantomJS.WebDriver包。
第五步：运行。可以看到phantomjs.exe被自动下载了。
好了，这样就可以开始你的数据抓取大业了。
以上就是本文的全部内容，希望本文的内容对大家的学习或者工作能带来一定的帮助，同时也希望多多支持脚本之家！
相关文章
这篇文章介绍了C#操作注册表的方法，文中通过示例代码介绍的非常详细。对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2022-05-05
这篇文章主要介绍了C#使用Parallel类进行多线程编程的方法,实例分析了Parallel类的相关使用技巧,需要的朋友可以参考下2015-06-06
这篇文章主要介绍了C#/VB.NET 给Excel添加、删除数字签名的方法,本文通过实例代码给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2020-11-11
这篇文章主要介绍了C#实现子窗体与父窗体通信方法,实例总结了常用的四种窗体通信方法,具有一定参考借鉴价值,需要的朋友可以参考下2015-09-09
本文详细讲解了c#互斥锁Mutex类的用法，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2022-02-02
通过网上汉字转换成拼音的代码，经过本人优化，性能将更加优异2012-11-11
这篇文章主要为大家详细介绍了C#访问SQLServer增删改查代码实例，感兴趣的小伙伴们可以参考一下2016-08-08
本文一介绍了数据结构的基本概念 而介绍了算法的基本概念，并且重点讨论了算法时间复杂度，并且用程序予以证明2012-10-10
本篇文章对不要返回null之EmptyFactory进行了详细的分析介绍，需要的朋友参考下2013-05-05
众所周知，我的世界就是无数个像素块的集合，而像素块也就是立方体。关于新建立方体，这个大家已经非常熟练了，本文就来说说如何实现3D操作几何体效果吧2023-03-03
最新评论