PHP統(tǒng)計nginx訪問日志中的搜索引擎抓取404鏈接頁面路徑
我在服務(wù)器上有每天切割nginx日志的習(xí)慣,所以針對每天各大搜索引擎來訪,總能記錄一些404頁面信息,傳統(tǒng)上我只是偶爾分析下日志,但是對于很多日志信息的朋友,人工來篩選可能不是一件容易的事情,這不我個人自己慢慢研究了一點(diǎn)點(diǎn),針對谷歌、百度、搜搜、360搜索、宜搜、搜狗、必應(yīng)等搜索引擎的404訪問生成為一個txt文本文件,直接上代碼test.php。
<?php
//訪問test.php?s=google
$domain='http://www.dbjr.com.cn';
$spiders=array('baidu'=>'Baiduspider','360'=>'360Spider',
'google'=>'Googlebot','soso'=>'Sosospider','sogou'=>
'Sogou web spider','easou'=>'EasouSpider','bing'=>'bingbot');
$path='/home/nginx/logs/'.date('Y/m/').(date('d')-1).'/access_www.txt';
$s=$_GET['s'];
if(!array_key_exists($s,$spiders)) die();
$spider=$spiders[$s];
$file=$s.'_'.date('ym').(date('d')-1).'.txt';
if(!file_exists($file)){
$in=file_get_contents($path);
$pattern='/GET (.*) HTTP\/1.1" 404.*'.$spider.'/';
preg_match_all ( $pattern , $in , $matches );
$out='';
foreach($matches[1] as $k=>$v){
$out.=$domain.$v."\r\n";
}
file_put_contents($file,$out);
}
$url=$domain.'/silian/'.$file;
echo $url;
好就這樣了。沒有什么高深的技術(shù),只有動手寫的過程。
- php 定義404頁面的實(shí)現(xiàn)代碼
- ThinkPHP3.2.3框架實(shí)現(xiàn)的空模塊、空控制器、空操作,跳轉(zhuǎn)到錯誤404頁面圖文詳解
- thinkphp框架下404頁面設(shè)置 僅三步
- ThinkPHP 404頁面的設(shè)置方法
- ThinkPHP訪問不存在的模塊跳轉(zhuǎn)到404頁面的方法
- php使用curl判斷網(wǎng)頁404(不存在)的方法
- PHP header()函數(shù)使用詳細(xì)(301、404等錯誤設(shè)置)
- php 404錯誤頁面實(shí)現(xiàn)代碼
- 用php來改寫404錯誤頁讓你的頁面更友好
- php 智能404跳轉(zhuǎn)代碼,適合換域名沒改變目錄的網(wǎng)站
- thinkPHP5框架設(shè)置404、403等http狀態(tài)頁面的方法
- php簡單檢測404頁面的方法示例
相關(guān)文章
淺談php數(shù)組array_change_key_case() 函數(shù)和array_chunk()函數(shù)
下面小編就為大家?guī)硪黄獪\談php數(shù)組array_change_key_case() 函數(shù)和array_chunk()函數(shù)。小編覺得挺不錯的,現(xiàn)在就分享給大家,也給大家做個參考。一起跟隨小編過來看看吧2016-10-10php序列化函數(shù)serialize() 和 unserialize() 與原生函數(shù)對比
這篇文章主要介紹了php序列化函數(shù)serialize() 和 unserialize() 與php原生序列化方法對比,有需要的小伙伴可以參考下。2015-05-05使用php偽造referer的方法 利用referer防止圖片盜鏈
當(dāng)瀏覽器向web服務(wù)器發(fā)送請求的時候,一般會帶上Referer,告訴服務(wù)器我是從哪個頁面鏈接過來的,服務(wù)器籍此可以獲得一些信息用于處理,不過這個Referer是可以偽造,下面看一個示例,大家就明白了2014-01-01laravel多視圖共享數(shù)據(jù)實(shí)例代碼
頁面視圖用于顯示文檔所有內(nèi)容在整個頁面的分布狀況和整個文檔在每一頁上的位置,并可對其進(jìn)行編輯操作,具有真正的“所見即所得”的顯示效果,下面這篇文章主要給大家介紹了關(guān)于laravel多視圖共享數(shù)據(jù)的相關(guān)資料,需要的朋友可以參考下2021-08-08PHP多線程批量采集下載美女圖片的實(shí)現(xiàn)代碼(續(xù))
之前寫過一篇《PHP批量采集下載美女圖片》文中主要采用file_get_content做采集圖片,今天發(fā)現(xiàn)采集了400張圖片 居然需要70分鐘以上,真是難以忍受2013-06-06php5 apache 2.2 webservice 創(chuàng)建與配置(java)
要運(yùn)行wsCaller.jar 要選安裝jdk 如果沒有安裝jdk 則wsCaller.jar 會以壓縮包的形式顯示2011-01-01