1.反斜杠的插入

　　還是以Disallow:/a/b.html為例，在編寫該語句的時候，如果忘記加入了反斜杠，則是對全部內(nèi)容進行開放，這與編寫語句的想法相悖，因為反斜杠的意義是根目錄。

　　2.空格的出現(xiàn)

　　空格的出現(xiàn)就很好理解了，因為搜索引擎對于這個特殊符號的出現(xiàn)并不識別，它的加入只會使語句失去應(yīng)有的效用。

    第二：編寫的幾個問題

　　1.Robots.txt編寫的順序問題

　　舉個最簡單的例子，如果你想讓自己a文件中的b.html被抓取，那么你怎么編寫呢?是Allow:/a/b.html Disallow:/a/ 還是Disallow:/a/ Allow:/a/b.html這樣？

　　在Robots.txt編寫規(guī)則中，它并不執(zhí)行樹狀分析結(jié)構(gòu)，換句話說編寫時并不應(yīng)該把母文件夾放在最前，而是遵循一種就近原則，如果我們把母文件夾放在前面，蜘蛛會認為這個途徑被封閉了，不能訪問，而我們最終的目的卻是訪問，這樣一來，目標和實際就大相逕庭了。

　　2.Robots.txt編寫的開放性問題

　　很多上海網(wǎng)站建設(shè) 的站長，尤其是新手站長對于Robots.txt的理解過于片面，他們認為既然Robots.txt可以規(guī)定蜘蛛的訪問途徑，那我們何必不開放，把所有文件都設(shè)置成可訪問，這樣一來網(wǎng)站的收錄量不久立即上升了，其實問題遠遠沒有我們想象的簡單，大家都知道網(wǎng)站中一些固定的文件是不必傳送給搜索引擎訪問的，如果我們把網(wǎng)站“全方位開放”，后果就是加大網(wǎng)站服務(wù)器負載，降低訪問速度，減緩蜘蛛的爬行率，對于網(wǎng)站收錄沒有一點用處，所以對于固定不需要訪問的文件，我們直接Disallow掉就可以了。

　　一般情況下，網(wǎng)站不需要訪問的文件有后臺管理文件、程序腳本、附件、數(shù)據(jù)庫文件、等等。

　　3.Robots.txt編寫的重復(fù)性問題

　　我們每天都在寫著原創(chuàng)內(nèi)容，然后更新到自己的網(wǎng)站中，大家想過沒有我們這樣做的目的是什么?當然是為了討搜索引擎的好，大家都知道搜索引擎很看重原創(chuàng)內(nèi)容，對于原創(chuàng)內(nèi)容的收錄很快，相反，如果你的網(wǎng)站中充斥著大量的復(fù)制內(nèi)容，那么我只能遺憾的告訴你，網(wǎng)站的前途一片渺茫。不過這也從另一個方面告訴我們要積極的利用robots文件禁止重復(fù)頁面的代碼，降低頁面的重復(fù)度，但是在編寫robots文件時一定要記得

　　在User-agent后加入某個搜索引擎，例如User-agent:BaiduSpider Disallow:/，如果沒有加入，編寫成User-agent: * Disallow: /形式，則是對網(wǎng)站所有內(nèi)容的“屏蔽”。

　　4.Robots.txt編寫的meta問題

　　在 Robots.txt編寫規(guī)則中，有一個取最強參數(shù)法則，而且如果網(wǎng)站以及頁面標簽上同時出現(xiàn)robots.txt文件和meta標簽，那么搜索引擎就會服從兩個規(guī)則中較為嚴格的一個，即禁止搜索引擎對于某個頁面的索引，當然如果robots.txt文件和meta標簽不是出現(xiàn)一個文件中，那么搜索引擎就會遵循就近原則，就會索引meta標簽前的所有文件。