欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

asp.net 抓取網(wǎng)頁(yè)源碼三種實(shí)現(xiàn)方法

 更新時(shí)間:2013年06月05日 11:14:45   投稿:shangke  
asp.net 抓取網(wǎng)頁(yè)源碼三種實(shí)現(xiàn)方法,需要的朋友可以參考一下

方法1 比較推薦  

/// <summary>  
 
    /// 用HttpWebRequest取得網(wǎng)頁(yè)源碼  
    /// 對(duì)于帶BOM的網(wǎng)頁(yè)很有效,不管是什么編碼都能正確識(shí)別  
    /// </summary>  
    /// <param name="url">網(wǎng)頁(yè)地址" </param>  
    /// <returns>返回網(wǎng)頁(yè)源文件</returns>  
    public static string GetHtmlSource2(string url)
    {
      //處理內(nèi)容  
      string html = "";
      HttpWebRequest request = (HttpWebRequest)WebRequest.Create(url);
      request.Accept = "*/*"; //接受任意文件
      request.UserAgent = "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.2; .NET CLR 1.1.4322)"; // 模擬使用IE在瀏覽 http://www.52mvc.com
      request.AllowAutoRedirect = true;//是否允許302
      //request.CookieContainer = new CookieContainer();//cookie容器,
      request.Referer = url; //當(dāng)前頁(yè)面的引用
 
 
      HttpWebResponse response = (HttpWebResponse)request.GetResponse();
      Stream stream = response.GetResponseStream();
      StreamReader reader = new StreamReader(stream, Encoding.Default);
      html = reader.ReadToEnd();
      stream.Close();
 
 
      return html;
    }

方法2 

using System;
using System.Collections.Generic;
using System.Linq;
using System.Web;
using System.IO;
using System.Text;
using System.Net;

namespace MySql
{
  public class GetHttpData
  {
    public static string GetHttpData2(string Url)
    {
      string sException = null;
      string sRslt = null;
      WebResponse oWebRps = null;
      WebRequest oWebRqst = WebRequest.Create(Url);
      oWebRqst.Timeout = 50000;
      try
      {

        oWebRps = oWebRqst.GetResponse();

      }
      catch (WebException e)
      {
        sException = e.Message.ToString();
      }
      catch (Exception e)
      {
        sException = e.ToString();
 
      }
      finally
      {
        if (oWebRps != null)
        {
 
          StreamReader oStreamRd = new StreamReader(oWebRps.GetResponseStream(), Encoding.GetEncoding("utf-8"));
          sRslt = oStreamRd.ReadToEnd();
          oStreamRd.Close();
          oWebRps.Close();
        }
      }
 
      return sRslt;
    }
 
  }
}

方法3

public static string getHtml(string url, params string [] charSets)//url是要訪問(wèn)的網(wǎng)站地址,charSet是目標(biāo)網(wǎng)頁(yè)的編碼,如果傳入的是null或者"",那就自動(dòng)分析網(wǎng)頁(yè)的編碼
  {
    try
    {
      string charSet = null;
      if (charSets.Length == 1) {
        charSet = charSets[0];
      }
      WebClient myWebClient = new WebClient(); //創(chuàng)建WebClient實(shí)例myWebClient
      // 需要注意的:
      //有的網(wǎng)頁(yè)可能下不下來(lái),有種種原因比如需要cookie,編碼問(wèn)題等等
      //這是就要具體問(wèn)題具體分析比如在頭部加入cookie
      // webclient.Headers.Add("Cookie", cookie);
      //這樣可能需要一些重載方法。根據(jù)需要寫(xiě)就可以了
 
 
      //獲取或設(shè)置用于對(duì)向 Internet 資源的請(qǐng)求進(jìn)行身份驗(yàn)證的網(wǎng)絡(luò)憑據(jù)。
      myWebClient.Credentials = CredentialCache.DefaultCredentials;
      //如果服務(wù)器要驗(yàn)證用戶(hù)名,密碼
      //NetworkCredential mycred = new NetworkCredential(struser, strpassword);
      //myWebClient.Credentials = mycred;
      //從資源下載數(shù)據(jù)并返回字節(jié)數(shù)組。(加@是因?yàn)榫W(wǎng)址中間有"/"符號(hào))
      byte[] myDataBuffer = myWebClient.DownloadData(url);
      string strWebData = Encoding.Default.GetString(myDataBuffer);
 
 
      //獲取網(wǎng)頁(yè)字符編碼描述信息
      Match charSetMatch = Regex.Match(strWebData, "<meta([^<]*)charset=([^<]*)\"", RegexOptions.IgnoreCase | RegexOptions.Multiline);
      string webCharSet = charSetMatch.Groups[2].Value;
      if (charSet == null || charSet == "")
        charSet = webCharSet;
 
 
      if (charSet != null && charSet != "" && Encoding.GetEncoding(charSet) != Encoding.Default)
      {
        strWebData = Encoding.GetEncoding(charSet).GetString(myDataBuffer);
      }
      else {
        strWebData = Encoding.GetEncoding("utf-8").GetString(myDataBuffer);
      }
      return strWebData;
    }
    catch (Exception e) { return ""; }
  }

asp.net 獲取網(wǎng)頁(yè)源文件的方法

有時(shí)候我們需要獲取 網(wǎng)頁(yè)源文件,所以用以下這個(gè)方法很容易完成任務(wù)!

private string GetStringByUrl(string strUrl) 
{ 
  WebRequest wrt = WebRequest.Create(strUrl); 
  WebResponse wrse = wrt.GetResponse(); 
  Stream strM = wrse.GetResponseStream(); 
  StreamReader SR = new StreamReader(strM,  Encoding.GetEncoding("gb2312")); 
  string strallstrm = SR.ReadToEnd(); 
  return strallstrm; 
} 

只要傳入要下載網(wǎng)頁(yè)的地址就OK了!
通過(guò)這個(gè)方法做個(gè)源碼導(dǎo)出:

private string SaveHTML() 
 {     
string str = RenderPage("Default2.aspx"); 
    Response.ContentEncoding = System.Text.Encoding.GetEncoding("UTF-8"); //解決中文亂碼 
    Response.AddHeader("Content-Disposition","attachment;filename=index.html"); //解決中文文件名亂碼   
    Response.AddHeader("Content-length",str.Length.ToString()); 
    Response.Write(str); 
    Response.End(); 
} 

以上就是asp.net 抓取網(wǎng)頁(yè)源碼的全部代碼了,希望對(duì)大家有所幫助。

相關(guān)文章

  • 淺談Main方法的參數(shù)

    淺談Main方法的參數(shù)

    本文主要對(duì)Main方法的參數(shù)通過(guò)案例分析進(jìn)行介紹,具有很好的參考價(jià)值,需要的朋友一起來(lái)看下吧
    2016-12-12
  • 詳解VS2012發(fā)布網(wǎng)站步驟

    詳解VS2012發(fā)布網(wǎng)站步驟

    這篇文章主要以圖文相結(jié)合的方式介紹了VS2012發(fā)布網(wǎng)站的詳細(xì)步驟,需要了解的朋友可以參考下
    2015-08-08
  • 在C#中生成與PHP一樣的MD5 Hash Code的方法

    在C#中生成與PHP一樣的MD5 Hash Code的方法

    這篇文章主要介紹了如何在C#中生成與PHP一樣的MD5 Hash Code,需要的朋友可以參考下
    2014-05-05
  • 如何使用ASP.NET?Core?配置文件

    如何使用ASP.NET?Core?配置文件

    這篇文章主要介紹了如何使用ASP.NET?Core配置文件,文章圍繞主題展開(kāi)詳細(xì)的內(nèi)容介紹,具有一定的參考一下,需要的小伙伴可以參考一下
    2022-09-09
  • .NET?6中為record類(lèi)型自定義Equals方法

    .NET?6中為record類(lèi)型自定義Equals方法

    這篇文章主要介紹了.NET?6中為record類(lèi)型自定義Equals方法,record類(lèi)型,這是一種新引用類(lèi)型,而不是類(lèi)或結(jié)構(gòu)。record與類(lèi)不同,區(qū)別在于record類(lèi)型使用基于值的相等性,下文小編將介紹更多詳細(xì)資料,需要的朋友可以參考一下
    2022-03-03
  • HttpHandler HttpModule入門(mén)篇

    HttpHandler HttpModule入門(mén)篇

    ASP.Net處理Http Request時(shí),使用Pipeline(管道)方式,由各個(gè)HttpModule對(duì)請(qǐng)求進(jìn)行處理,然后到達(dá) HttpHandler,HttpHandler處理完之后,仍經(jīng)過(guò)Pipeline中各個(gè)HttpModule的處理,最后將HTML發(fā)送到客戶(hù)端瀏覽器中。
    2010-01-01
  • Asp.Net HttpHandler 妙用

    Asp.Net HttpHandler 妙用

    很多時(shí)候,我們新建一個(gè)xxx.aspx頁(yè)和xxx.aspx.cs文件,不過(guò)是為了實(shí)現(xiàn)一個(gè)很簡(jiǎn)單的功能
    2009-04-04
  • LiteralControl ASP.NET中的另類(lèi)控件

    LiteralControl ASP.NET中的另類(lèi)控件

    對(duì)于LiteralControl控件的應(yīng)用比較少,今天突然看到了,就弄個(gè)明白為好,所以總結(jié)出來(lái),供大家一起學(xué)習(xí)
    2012-01-01
  • ASP.NET中使用開(kāi)源組件NPOI快速導(dǎo)入導(dǎo)出Execl數(shù)據(jù)

    ASP.NET中使用開(kāi)源組件NPOI快速導(dǎo)入導(dǎo)出Execl數(shù)據(jù)

    這篇文章主要介紹了ASP.NET中使用開(kāi)源組件NPOI快速導(dǎo)入導(dǎo)出Execl數(shù)據(jù),NPOI是一個(gè)很強(qiáng)大的Execl操作組件,需要的朋友可以參考下
    2014-09-09
  • .NET下為百度文本編輯器UEditor增加圖片刪除功能示例

    .NET下為百度文本編輯器UEditor增加圖片刪除功能示例

    今天下載了目前最新版1.2.5為版本看更新記錄,主要是對(duì)表格做個(gè)修改,我下載用上,我靠,上傳圖片的刪除功能給取消了,下面與大家分享下增加圖片刪除功能示例
    2013-05-05

最新評(píng)論