ASP.NET抓取网页内容的实现方法
更新时间：2015年02月04日 10:01:29 作者：whazhl
这篇文章主要介绍了ASP.NET抓取网页内容的实现方法,涉及使用HttpWebRequest及WebResponse抓取网页内容的技巧,需要的朋友可以参考下
本文实例讲述了ASP.NET抓取网页内容的实现方法。分享给大家供大家参考。具体实现方法如下：
一、ASP.NET 使用HttpWebRequest抓取网页内容
复制代码 代码如下:
/// <summary>方法一：比较推荐
/// 用HttpWebRequest取得网页源码
/// 对于带BOM的网页很有效，不管是什么编码都能正确识别
/// </summary>
/// <param name="url">网页地址" </param>
/// <returns>返回网页源文件</returns>
public static string GetHtmlSource2(string url)
{
//处理内容
string html = "";
HttpWebRequest request = (HttpWebRequest)WebRequest.Create(url);
request.Accept = "*/*"; //接受任意文件
request.UserAgent = "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.2; .NET CLR 1.1.4322)"; //
request.AllowAutoRedirect = true;//是否允许302
//request.CookieContainer = new CookieContainer();//cookie容器，
request.Referer = url; //当前页面的引用
HttpWebResponse response = (HttpWebResponse)request.GetResponse();
Stream stream = response.GetResponseStream();
StreamReader reader = new StreamReader(stream, Encoding.Default);
html = reader.ReadToEnd();
stream.Close();
return html;
}
/// 用HttpWebRequest取得网页源码
/// 对于带BOM的网页很有效，不管是什么编码都能正确识别
/// </summary>
/// <param name="url">网页地址" </param>
/// <returns>返回网页源文件</returns>
public static string GetHtmlSource2(string url)
{
//处理内容
string html = "";
HttpWebRequest request = (HttpWebRequest)WebRequest.Create(url);
request.Accept = "*/*"; //接受任意文件
request.UserAgent = "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.2; .NET CLR 1.1.4322)"; //
request.AllowAutoRedirect = true;//是否允许302
//request.CookieContainer = new CookieContainer();//cookie容器，
request.Referer = url; //当前页面的引用
HttpWebResponse response = (HttpWebResponse)request.GetResponse();
Stream stream = response.GetResponseStream();
StreamReader reader = new StreamReader(stream, Encoding.Default);
html = reader.ReadToEnd();
stream.Close();
return html;
}
二、ASP.NET 使用 WebResponse 抓取网页内容
复制代码 代码如下:
public static string GetHttpData2(string Url)
{
string sException = null;
string sRslt = null;
WebResponse oWebRps = null;
WebRequest oWebRqst = WebRequest.Create(Url);
oWebRqst.Timeout = 50000;
try
{
oWebRps = oWebRqst.GetResponse();
}
catch (WebException e)
{
sException = e.Message.ToString();
}
catch (Exception e)
{
sException = e.ToString();
}
finally
{
if (oWebRps != null)
{
StreamReader oStreamRd = new StreamReader(oWebRps.GetResponseStream(), Encoding.GetEncoding("utf-8"));
sRslt = oStreamRd.ReadToEnd();
oStreamRd.Close();
oWebRps.Close();
}
}
return sRslt;
}
{
string sException = null;
string sRslt = null;
WebResponse oWebRps = null;
WebRequest oWebRqst = WebRequest.Create(Url);
oWebRqst.Timeout = 50000;
try
{
oWebRps = oWebRqst.GetResponse();
}
catch (WebException e)
{
sException = e.Message.ToString();
}
catch (Exception e)
{
sException = e.ToString();
}
finally
{
if (oWebRps != null)
{
StreamReader oStreamRd = new StreamReader(oWebRps.GetResponseStream(), Encoding.GetEncoding("utf-8"));
sRslt = oStreamRd.ReadToEnd();
oStreamRd.Close();
oWebRps.Close();
}
}
return sRslt;
}
希望本文所述对大家的C#程序设计有所帮助。
相关文章
这篇文章给大家介绍asp.net常用函数收藏，主要包括 得到站点用户IP,去除字符串最后一个','号、去除字符串第一个'/'号等，感兴趣的朋友跟随小编一起看看吧2008-09-09
在ASP.NET的页面上，ListBox最终是渲染成select元素，而CheckListBox最终被渲染成div或者是table，使得二者的样式无法统一，或者说要统一很麻烦。2009-08-08
asp.net core是微软旗下支持跨平台的开发框架，与springboot思想类似，支持ioc等，可以快速的开发web api等项目，这篇文章主要介绍了asp.net core服务限制堆内存大小,需要的朋友可以参考下2022-09-09
这篇文章主要介绍了asp.net中virtual和abstract的区别,较为详细的分析了virtual与abstract的概念与具体用法,并以实例的形式予以总结归纳,需要的朋友可以参考下2014-10-10
在ASP.NET中实现多文件上传的方法...2007-03-03
这篇文章主要介绍了asp.net利用后台实现直接生成html分页的方法,比较简洁实用,需要的朋友可以参考下2014-08-08
.Net WebApi中实现自动依赖注入的三种方法(最新推荐)
依赖关系注入 (DI) ,是一种软件设计模式，这是一种在类及其依赖项之间实现控制反转 (IoC) 的技术， .NET 中的依赖关系注入是框架的内置部分，与配置、日志记录和选项模式一样，这篇文章主要介绍了.Net WebApi中实现自动依赖注入的三种方法,需要的朋友可以参考下2024-03-03
在 .net framework 4.0中在 system.web 中加上httpRuntime requestValidationMode="2.0" 这句即可解决，需要的朋友可以了解下2013-12-12
asp.net Silverlight应用程序中获取载体aspx页面参数
有时候SL应用中需要使用由aspx页面中传递过来的参数值，此时通常有两种方法获取2009-11-11
在ASP.NET Core中实现一个Token base的身份认证实例
以前在web端的身份认证都是基于Cookie | Session的身份认证，本篇文章主要介绍了在ASP.NET Core中实现一个Token base的身份认证实例，有兴趣的可以了解一下。2016-12-12
最新评论