robots.txt 之robots優(yōu)化設(shè)置指南

1。你是否知道robots.txt中文的意思?
2。你是否知道404頁(yè)面應(yīng)該屏蔽?
3。你的企業(yè)站,每個(gè)頁(yè)面是否都有“關(guān)于我們”,并且還得沒屏蔽掉?
4。你是否知道設(shè)置好robots.txt,是有利于提升網(wǎng)站整體權(quán)重?
5。你想知道robots.txt基本寫法?
6。robots.txt該如何寫,才優(yōu)化最佳。
1。robots.txt的中文意思是:搜索引擎公共協(xié)議。搜索引擎到你的網(wǎng)站,是先看robots.txt,按照上面寫好的協(xié)議再抓取你的網(wǎng)頁(yè)。
2。每個(gè)網(wǎng)站都應(yīng)該要有404頁(yè)面,假如沒有,會(huì)導(dǎo)致 1)減少網(wǎng)站PV 2)減少流量 3)搜索引擎對(duì)你的網(wǎng)站不有好,因?yàn)槟愕木W(wǎng)站用戶體驗(yàn)度不好。
每個(gè)網(wǎng)站都有很多錯(cuò)誤頁(yè)面,每個(gè)錯(cuò)誤頁(yè)面都應(yīng)該做一個(gè)404頁(yè)面,那么每個(gè)404頁(yè)面都是一樣的。一旦你的404頁(yè)面太多,你還讓搜索引擎去收錄,就會(huì)導(dǎo)致網(wǎng)站把權(quán)重分給這些404頁(yè)面,這值得嗎?因此我們必須要屏蔽掉404頁(yè)面。
3。企業(yè)站的導(dǎo)航欄上面,往往會(huì)有“網(wǎng)上賺錢博客介紹”“聯(lián)系九月”“關(guān)于我們”這些頁(yè)面。這些頁(yè)面,可以說是全站顯示,網(wǎng)站的每個(gè)頁(yè)面幾乎都要分權(quán)重給這些頁(yè)面,但是這些頁(yè)面值得網(wǎng)站分權(quán)重給他們嗎?因此我們也必須屏蔽掉這些“不重要內(nèi)容”的頁(yè)面,不讓搜索引擎抓取。
4。從3.4點(diǎn),我們可以得出一個(gè)結(jié)論:網(wǎng)站如果有太多無關(guān)的頁(yè)面被收錄,而你又不想用戶直接從搜索引擎進(jìn)入這些頁(yè)面,那么網(wǎng)站就會(huì)把權(quán)重分給這些“毫無意義”的頁(yè)面,這樣就會(huì)降低整體網(wǎng)站的權(quán)重。
簡(jiǎn)而概之,就是網(wǎng)站被這些垃圾頁(yè)面所拖累了。
5。robots.txt的基本寫法。
在桌面上建立一個(gè)叫robots.txt文檔
以下內(nèi)容按順序?qū)懀?
User-agent: *
Disallow: /wp-admin/
Disallow: /wp-content/
Disallow: /feed
Disallow: /comments/feed
Disallow: /trackback
Disallow: /guestbook
User-agent: #表示允許的搜索引擎。*代表允許所有,如果僅允許百度蜘蛛,就寫baiduspider
Disallow: #是禁止收錄的意思
Disallow: / #表示禁止所有收錄。直接再Disallow:后面加一個(gè)斜杠。
Disallow: /網(wǎng)站后臺(tái)目錄/ #屏蔽目錄的格式
Disallow: /404.html #屏蔽404頁(yè)面
robots.txt里面,任何空格,換行都是被忽略的。robots.txt只看命令的順序,空格、換行都是為了我們看的方便。
6。robots.txt該如何寫,才優(yōu)化最佳?
看完了前面5點(diǎn),相信你對(duì)如何優(yōu)化最佳應(yīng)該有一個(gè)很好的理解了。
1)屏蔽掉對(duì)網(wǎng)站沒用的垃圾頁(yè)面,比如404
2)思考一下,你的哪些頁(yè)面雖然必須出現(xiàn),但是你覺得沒必要讓用戶“從搜索引擎過來看”。比如福州SEO的“關(guān)于我們”。那么就不必被收錄。
網(wǎng)絡(luò)賺錢方法-九月博客 原創(chuàng)文章,轉(zhuǎn)載請(qǐng)注明來源并保留原文鏈接
相關(guān)文章
這幾天爆火的chatgpt是啥? 與SEO有沒有關(guān)系? 速看
近日,OpenAI 帶來了一種全新的 AI 聊天機(jī)器人——ChatGPT,它不僅能對(duì)話、寫作還能編程、Debug,厲害得嚇人,那么chatgpt與SEO有沒有關(guān)系?詳細(xì)請(qǐng)看下文介紹2022-12-10- 這篇文章主要介紹了收錄與索引是什么意思?收錄和索引的區(qū)別是什么?的相關(guān)資料,需要的朋友可以參考下本文詳細(xì)內(nèi)容介紹2022-11-07
大網(wǎng)站與小網(wǎng)站做排名流量的區(qū)別是什么
這篇文章主要介紹了大網(wǎng)站與小網(wǎng)站做排名流量的區(qū)別是什么的相關(guān)資料,需要的朋友可以參考下本文詳細(xì)內(nèi)容介紹2022-11-07- 不同的搜索引擎提供了服務(wù)后臺(tái)常見功能來優(yōu)化網(wǎng)站搜索,下面文章就為大家詳細(xì)介紹,一起看看吧2021-10-14
新站如何優(yōu)化 網(wǎng)站收錄/關(guān)鍵詞排名等問題解答
筆者最近收到很多關(guān)于新站優(yōu)化的咨詢,問題無外乎是網(wǎng)站首頁(yè)怎么還沒收錄、網(wǎng)站內(nèi)容什么時(shí)候收錄、關(guān)鍵詞排名什么時(shí)候才能上來等等。這些問題看似很重要,但筆者認(rèn)為對(duì)上線2021-03-19如何快速收錄網(wǎng)站內(nèi)容 想要快速收錄網(wǎng)站內(nèi)容的注意事項(xiàng)
對(duì)于網(wǎng)站SEO優(yōu)化而言,頁(yè)面收錄是很重要的環(huán)節(jié),因?yàn)槿绻W(wǎng)站沒有收錄,或者網(wǎng)站收錄少的話,那么就談不上關(guān)鍵詞排名了。那么如何快速收錄網(wǎng)站,如何快速收錄一篇文章呢?本2021-03-19- 2020年如何利用SEO增加流量?下文小編就為大家?guī)碓敿?xì)教程,感興趣的朋友可以一起看看2020-03-06
- 當(dāng)我們優(yōu)化我們的網(wǎng)站時(shí),有時(shí)發(fā)現(xiàn)我們優(yōu)化好的關(guān)鍵詞的排名突然變得不穩(wěn)定。這要怎么辦呢?下文小編就為大家整理了幾天避免下降方法,一起看看吧2020-03-02
企業(yè)網(wǎng)站被降權(quán)的具體原因有那些 企業(yè)網(wǎng)站被降權(quán)的原因分析
企業(yè)網(wǎng)站被降權(quán)的具體原因有那些?下文中為大家?guī)砹似髽I(yè)網(wǎng)站被降權(quán)的四大因素分析。感興趣的朋友不妨閱讀下文內(nèi)容,參考一下吧2019-11-13老網(wǎng)站突然不收錄了為什么 多年的老網(wǎng)站突然不收錄的原因及解決方法
老網(wǎng)站突然不收錄了為什么?下文中為大家?guī)砹硕嗄甑睦暇W(wǎng)站突然不收錄的14個(gè)原因及解決方法。感興趣的朋友不妨閱讀下文內(nèi)容,參考一下吧2019-11-13