asp.net 抓取網(wǎng)頁(yè)源碼三種實(shí)現(xiàn)方法
方法1 比較推薦
/// <summary> /// 用HttpWebRequest取得網(wǎng)頁(yè)源碼 /// 對(duì)于帶BOM的網(wǎng)頁(yè)很有效,不管是什么編碼都能正確識(shí)別 /// </summary> /// <param name="url">網(wǎng)頁(yè)地址" </param> /// <returns>返回網(wǎng)頁(yè)源文件</returns> public static string GetHtmlSource2(string url) { //處理內(nèi)容 string html = ""; HttpWebRequest request = (HttpWebRequest)WebRequest.Create(url); request.Accept = "*/*"; //接受任意文件 request.UserAgent = "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.2; .NET CLR 1.1.4322)"; // 模擬使用IE在瀏覽 http://www.52mvc.com request.AllowAutoRedirect = true;//是否允許302 //request.CookieContainer = new CookieContainer();//cookie容器, request.Referer = url; //當(dāng)前頁(yè)面的引用 HttpWebResponse response = (HttpWebResponse)request.GetResponse(); Stream stream = response.GetResponseStream(); StreamReader reader = new StreamReader(stream, Encoding.Default); html = reader.ReadToEnd(); stream.Close(); return html; }
方法2
using System; using System.Collections.Generic; using System.Linq; using System.Web; using System.IO; using System.Text; using System.Net; namespace MySql { public class GetHttpData { public static string GetHttpData2(string Url) { string sException = null; string sRslt = null; WebResponse oWebRps = null; WebRequest oWebRqst = WebRequest.Create(Url); oWebRqst.Timeout = 50000; try { oWebRps = oWebRqst.GetResponse(); } catch (WebException e) { sException = e.Message.ToString(); } catch (Exception e) { sException = e.ToString(); } finally { if (oWebRps != null) { StreamReader oStreamRd = new StreamReader(oWebRps.GetResponseStream(), Encoding.GetEncoding("utf-8")); sRslt = oStreamRd.ReadToEnd(); oStreamRd.Close(); oWebRps.Close(); } } return sRslt; } } }
方法3
public static string getHtml(string url, params string [] charSets)//url是要訪問(wèn)的網(wǎng)站地址,charSet是目標(biāo)網(wǎng)頁(yè)的編碼,如果傳入的是null或者"",那就自動(dòng)分析網(wǎng)頁(yè)的編碼 { try { string charSet = null; if (charSets.Length == 1) { charSet = charSets[0]; } WebClient myWebClient = new WebClient(); //創(chuàng)建WebClient實(shí)例myWebClient // 需要注意的: //有的網(wǎng)頁(yè)可能下不下來(lái),有種種原因比如需要cookie,編碼問(wèn)題等等 //這是就要具體問(wèn)題具體分析比如在頭部加入cookie // webclient.Headers.Add("Cookie", cookie); //這樣可能需要一些重載方法。根據(jù)需要寫(xiě)就可以了 //獲取或設(shè)置用于對(duì)向 Internet 資源的請(qǐng)求進(jìn)行身份驗(yàn)證的網(wǎng)絡(luò)憑據(jù)。 myWebClient.Credentials = CredentialCache.DefaultCredentials; //如果服務(wù)器要驗(yàn)證用戶(hù)名,密碼 //NetworkCredential mycred = new NetworkCredential(struser, strpassword); //myWebClient.Credentials = mycred; //從資源下載數(shù)據(jù)并返回字節(jié)數(shù)組。(加@是因?yàn)榫W(wǎng)址中間有"/"符號(hào)) byte[] myDataBuffer = myWebClient.DownloadData(url); string strWebData = Encoding.Default.GetString(myDataBuffer); //獲取網(wǎng)頁(yè)字符編碼描述信息 Match charSetMatch = Regex.Match(strWebData, "<meta([^<]*)charset=([^<]*)\"", RegexOptions.IgnoreCase | RegexOptions.Multiline); string webCharSet = charSetMatch.Groups[2].Value; if (charSet == null || charSet == "") charSet = webCharSet; if (charSet != null && charSet != "" && Encoding.GetEncoding(charSet) != Encoding.Default) { strWebData = Encoding.GetEncoding(charSet).GetString(myDataBuffer); } else { strWebData = Encoding.GetEncoding("utf-8").GetString(myDataBuffer); } return strWebData; } catch (Exception e) { return ""; } }
asp.net 獲取網(wǎng)頁(yè)源文件的方法
有時(shí)候我們需要獲取 網(wǎng)頁(yè)源文件,所以用以下這個(gè)方法很容易完成任務(wù)!
private string GetStringByUrl(string strUrl) { WebRequest wrt = WebRequest.Create(strUrl); WebResponse wrse = wrt.GetResponse(); Stream strM = wrse.GetResponseStream(); StreamReader SR = new StreamReader(strM, Encoding.GetEncoding("gb2312")); string strallstrm = SR.ReadToEnd(); return strallstrm; }
只要傳入要下載網(wǎng)頁(yè)的地址就OK了!
通過(guò)這個(gè)方法做個(gè)源碼導(dǎo)出:
private string SaveHTML() { string str = RenderPage("Default2.aspx"); Response.ContentEncoding = System.Text.Encoding.GetEncoding("UTF-8"); //解決中文亂碼 Response.AddHeader("Content-Disposition","attachment;filename=index.html"); //解決中文文件名亂碼 Response.AddHeader("Content-length",str.Length.ToString()); Response.Write(str); Response.End(); }
以上就是asp.net 抓取網(wǎng)頁(yè)源碼的全部代碼了,希望對(duì)大家有所幫助。
- asp.net中獲取遠(yuǎn)程網(wǎng)頁(yè)的內(nèi)容之一(downmoon原創(chuàng))
- asp.net下獲取遠(yuǎn)程網(wǎng)頁(yè)的內(nèi)容之二(downmoon原創(chuàng))
- asp.net 網(wǎng)頁(yè)編碼自動(dòng)識(shí)別代碼
- asp.net HttpWebRequest自動(dòng)識(shí)別網(wǎng)頁(yè)編碼
- asp.net(c#)做一個(gè)網(wǎng)頁(yè)數(shù)據(jù)采集工具
- HttpWebRequest和HttpWebResponse用法小結(jié)
- ASP.NET MVC中解析淘寶網(wǎng)頁(yè)出現(xiàn)亂碼問(wèn)題的解決方法
- C#中HttpWebRequest的用法詳解
- ASP.NET抓取網(wǎng)頁(yè)內(nèi)容的實(shí)現(xiàn)方法
- ASP.NET使用HttpWebRequest讀取遠(yuǎn)程網(wǎng)頁(yè)源代碼
相關(guān)文章
.NET?6中為record類(lèi)型自定義Equals方法
這篇文章主要介紹了.NET?6中為record類(lèi)型自定義Equals方法,record類(lèi)型,這是一種新引用類(lèi)型,而不是類(lèi)或結(jié)構(gòu)。record與類(lèi)不同,區(qū)別在于record類(lèi)型使用基于值的相等性,下文小編將介紹更多詳細(xì)資料,需要的朋友可以參考一下2022-03-03HttpHandler HttpModule入門(mén)篇
ASP.Net處理Http Request時(shí),使用Pipeline(管道)方式,由各個(gè)HttpModule對(duì)請(qǐng)求進(jìn)行處理,然后到達(dá) HttpHandler,HttpHandler處理完之后,仍經(jīng)過(guò)Pipeline中各個(gè)HttpModule的處理,最后將HTML發(fā)送到客戶(hù)端瀏覽器中。2010-01-01LiteralControl ASP.NET中的另類(lèi)控件
對(duì)于LiteralControl控件的應(yīng)用比較少,今天突然看到了,就弄個(gè)明白為好,所以總結(jié)出來(lái),供大家一起學(xué)習(xí)2012-01-01ASP.NET中使用開(kāi)源組件NPOI快速導(dǎo)入導(dǎo)出Execl數(shù)據(jù)
這篇文章主要介紹了ASP.NET中使用開(kāi)源組件NPOI快速導(dǎo)入導(dǎo)出Execl數(shù)據(jù),NPOI是一個(gè)很強(qiáng)大的Execl操作組件,需要的朋友可以參考下2014-09-09.NET下為百度文本編輯器UEditor增加圖片刪除功能示例
今天下載了目前最新版1.2.5為版本看更新記錄,主要是對(duì)表格做個(gè)修改,我下載用上,我靠,上傳圖片的刪除功能給取消了,下面與大家分享下增加圖片刪除功能示例2013-05-05