快捷導(dǎo)航

asp 小偷采集程序原理與常用函數(shù)方法

更新時(shí)間：2009年11月23日 00:26:37 作者：

采集程序?qū)嶋H上是通過(guò)了XML中的XMLHTTP組件調(diào)用其它網(wǎng)站上的網(wǎng)頁(yè)。比如新聞采集程序，很多都是調(diào)用了sina的新聞網(wǎng)頁(yè)，并且對(duì)其中的html進(jìn)行了一些替換，同時(shí)對(duì)廣告也進(jìn)行了過(guò)濾。

用采集程序的優(yōu)點(diǎn)有：無(wú)須維護(hù)網(wǎng)站，因?yàn)椴杉绦蛑械臄?shù)據(jù)來(lái)自其他網(wǎng)站，它將隨著該網(wǎng)站的更新而更新；可以節(jié)省服務(wù)器資源，一般采集程序就幾個(gè)文件，所有網(wǎng)頁(yè)內(nèi)容都是來(lái)自其他網(wǎng)站。缺點(diǎn)有：

不穩(wěn)定，如果目標(biāo)網(wǎng)站出錯(cuò)，程序也會(huì)出錯(cuò)，而且，如果目標(biāo)網(wǎng)站進(jìn)行升級(jí)維護(hù)，那么采集程序也要進(jìn)行相應(yīng)修改；速度，因?yàn)槭沁h(yuǎn)程調(diào)用，速度和在本地服務(wù)器上讀取數(shù)據(jù)比起來(lái)，肯定要慢一些。

一、事例
下面就XMLHTTP在ASP中的應(yīng)用做個(gè)簡(jiǎn)單說(shuō)明

復(fù)制代碼代碼如下:

 
<% 
'常用函數(shù) 
'1、輸入url目標(biāo)網(wǎng)頁(yè)地址，返回值getHTTPPage是目標(biāo)網(wǎng)頁(yè)的html代碼 
function getHTTPPage(url) 
dim Http 
set Http=server.createobject("MSXML2.XMLHTTP") 
Http.open "GET",url,false 
Http.send() 
if Http.readystate<>4 then 
exit function 
end if 
getHTTPPage=bytesToBstr(Http.responseBody,"GB2312") 
set http=nothing 
if err.number<>0 then err.Clear 
end function 
'2、轉(zhuǎn)換亂瑪，直接用xmlhttp調(diào)用有中文字符的網(wǎng)頁(yè)得到的將是亂瑪，可以通過(guò)adodb.stream組件進(jìn)行轉(zhuǎn)換 
Function BytesToBstr(body) 
dim objstream 
set objstream = Server.CreateObject("adodb.stream") 
objstream.Type = 1 
objstream.Mode =3 
objstream.Open 
objstream.Write body 
objstream.Position = 0 
objstream.Type = 2 
objstream.Charset = "GB2312" '轉(zhuǎn)換原來(lái)默認(rèn)的UTF-8編碼轉(zhuǎn)換成GB2312編碼，否則直接用XMLHTTP組件調(diào)用有中文字符的網(wǎng)頁(yè)得到的將是亂碼 
BytesToBstr = objstream.ReadText 
objstream.Close 
set objstream = nothing 
End Function 
'下面試著調(diào)用http://www.google的html內(nèi)容 
Dim Url,Html 
Url="http://www.google"; 
Html = getHTTPPage(Url) 
Response.write Html 
%> 

二、幾個(gè)常用的函數(shù)
InStr 函數(shù)
描述返回某字符（string2）串在另一字符串（string1）中第一次出現(xiàn)的位置。
語(yǔ)法 InStr(string1, string2)
例如：
Dim SearchString, SearchChar
SearchString ="http://www.google" ' 要在其中搜索的字符串。
SearchChar = "blue1000" ' 搜索 "blue1000"。
MyBK = Instr(SearchString, SearchChar) ' 返回 8
'如果找不到則返回“0”，例如：
SearchChar = "BK"
MyBK = Instr(SearchString, SearchChar) ' 返回 0
Mid 函數(shù)
描述: 從字符串中返回指定數(shù)目的字符。
語(yǔ)法 Mid(string, start, over)
例如：
Dim MyBK
MyBK = Mid("我們的BK(www.google)設(shè)計(jì)", 7, 12) '截取字符串"我們的BK(www.google)設(shè)計(jì)"第7個(gè)字符以后的12個(gè)字符'此時(shí)MyBK的值就變成了"www.google"
Replace 函數(shù)
Dim SearchString, SearchChar
SearchString ="我們的BK設(shè)計(jì)是一個(gè)網(wǎng)站建設(shè)資源網(wǎng)站" ' 要在其中搜索的字符串。
SearchString =Replace(SearchString,"BK設(shè)計(jì)","Www.google")'此時(shí)SearchString的值就變成了"我們的Www.google是一個(gè)網(wǎng)站建設(shè)資源網(wǎng)站"

三、截取指定區(qū)域的HTML代碼
例如我只想獲取以下HTML代碼中"<td>"和"</td>"之間的的文字部分:
<html>
<title>BK(www.google)谷歌搜索引擎</title>
<body>
<table>
<tr><td></td></tr>
<tr><td id="Content">BK(www.google)谷歌搜索引擎是個(gè)資源多多的站點(diǎn)……</td></tr>
</table>
</body>
</html>
<%
……
Dim StrBK,start,over,RsBK
StrBK=getHTTPPage(網(wǎng)頁(yè)的地址)
start=Instr(StrBK,"<td id=""Content"">") '此處的作用是獲取字符串開始地方的定位。這里要有人問(wèn)了:原來(lái)的代碼是<td id="Content">,怎么你這里調(diào)用的是<td id=""Content"">啊?答案:asp中（準(zhǔn)確的說(shuō)是VBscript中是用兩個(gè)雙引號(hào)來(lái)表示一個(gè)雙引號(hào)的，因?yàn)殡p引號(hào)對(duì)于程序來(lái)說(shuō)是個(gè)敏感字符。） over=Instr(StrBK,"…</td></tr>")'此處的作用是獲取字符串結(jié)束地方的定位。'這里又要有人問(wèn)了:( :程序調(diào)用HTML代碼干嗎前面多出來(lái)3個(gè)點(diǎn)點(diǎn)"…"??？答：提示：上面一行也有一個(gè)</td></tr>，如果這里用</td></tr>來(lái)定位的話，程序會(huì)錯(cuò)誤地把上面一行的</td></tr>當(dāng)成欲獲取字符串的結(jié)束部分了。 RsBK=mid(StrBK,start,over-start) '此處的作用是取出StrBK中第start個(gè)字符到第over個(gè)字符之間的字符串。mid函數(shù)前面一節(jié)我也講過(guò)了；over-start是為了計(jì)算出開始位置和結(jié)束位置之間的距離，也就是字符數(shù)。
response.write(RsBK) '最后輸出程序獲取的內(nèi)容
%>
不要高興的太早，當(dāng)你運(yùn)行的時(shí)候，你會(huì)發(fā)現(xiàn)頁(yè)面的html代碼有錯(cuò)誤，為什么呢？因?yàn)槟惬@取的html代碼是：<td id="Content">BK(www.google)谷歌搜索引擎是個(gè)資源多多的站點(diǎn)…
看到了吧？有殘缺的HTML代碼?。≡趺崔k呢？start=Instr(StrBK,"<td id=""Content"">")這個(gè)語(yǔ)句獲取的是"<td id="Content">"在

StrBK中的位置數(shù),現(xiàn)在我們可以在程序語(yǔ)句的后面加上17,那么程序就會(huì)將位置指向<td id="Content">后面的那個(gè)字符.
好的,程序?qū)⒏某蛇@樣:
<%
……
Dim StrBK,start,over,RsBK
StrBK=getHTTPPage(網(wǎng)頁(yè)的地址)
start=Instr(StrBK,"<td id=""Content"">") + 17
over=Instr(StrBK,"…</td></tr>") '這里你也可以減去七(-7)把3個(gè)點(diǎn)去掉
RsBK=mid(StrBK,start,over-start)
response.write(RsBK)
%>
這樣就OK了,我們就可以將我們想要的東西偷過(guò)來(lái)顯示在我們自己的頁(yè)面了,呵呵~

四、刪掉或修改獲取的字符
將RsBK中的"BK(www.google)"換成"BK":
RsBK=replace(RsBK,"BK(www.google)","BK")
或者直接把"(www.google)"刪掉:
RsBK=replace(RsBK,"(www.google)","")
好了,現(xiàn)在RsBK就變成了:"BK谷歌搜索引擎是個(gè)資源多多的站點(diǎn)……"了.但是事實(shí)中,有些情況可能replace函數(shù)是不適應(yīng)的,比如我們想把某個(gè)字符串里面的所有連接都去掉.連接可能包括很多種類型,replace只能替代其中特定的一個(gè),我們不可能用一個(gè)又一個(gè)對(duì)應(yīng)的replace函數(shù)來(lái)替換吧?