一般來說，讓搜索引擎捕獲和索引更多的內(nèi)容往往是SEO們頭疼的問題。沒有包容和索引，就談不上排名。特別是對(duì)于一個(gè)具有一定規(guī)模的網(wǎng)站來說，要使網(wǎng)站完全被收錄是一項(xiàng)相當(dāng)費(fèi)勁的SEO技術(shù)。比如，當(dāng)頁面達(dá)到幾個(gè)頁面時(shí)，無論網(wǎng)站架構(gòu)如何設(shè)計(jì)和優(yōu)化，都不可能包含網(wǎng)站，所以我們只能盡量提高包含率。

但有時(shí)，如何停止搜索引擎包括可能成為一個(gè)問題，越來越近。需要屏蔽的信息，如機(jī)密信息、復(fù)制內(nèi)容、廣告鏈接等。過去，常用的防止包含的方法包括密碼保護(hù)、將內(nèi)容隱藏在表單后面、使用JS/Ajax、使用flash等。

一、使用Flash

幾年來，搜索引擎一直試圖搶占flash內(nèi)容。簡單的文本內(nèi)容已經(jīng)可以被抓取。flash中的鏈接也可以被跟蹤。

二，形式

搜索引擎蜘蛛還可以填寫表單和獲取post請(qǐng)求頁面。這可以在日志中看到。

三、JS/Ajax

使用JS鏈接一直被認(rèn)為是一種對(duì)搜索引擎不友好的方法，因此可以防止蜘蛛爬行。但兩三年前，我看到JS鏈接無法阻止搜索引擎蜘蛛爬行。不僅會(huì)對(duì)JS中出現(xiàn)的url進(jìn)行爬網(wǎng)，還可以執(zhí)行簡單的JS來查找更多的url。

日前，人們發(fā)現(xiàn)，許多網(wǎng)站使用的Facebook評(píng)論插件中的評(píng)論被抓取并包含在內(nèi)。插件本身是一個(gè)Ajax。這是個(gè)好消息。我的一個(gè)實(shí)驗(yàn)性電子商務(wù)網(wǎng)站的產(chǎn)品評(píng)論功能為此付出了很多努力。使用Facebook評(píng)論插件有很大的好處。具體的好處稍后會(huì)有時(shí)間來說明，較好的問題是審查是由Ajax實(shí)現(xiàn)的，無法捕獲，而產(chǎn)品審查是作為目的之一（生成原始內(nèi)容）包括在內(nèi)的。我想了很長一段時(shí)間，沒有一個(gè)解決方案，所以我不得不打開Facebook評(píng)論插件，打開購物車的評(píng)論功能。既然Facebook評(píng)論中的評(píng)論可以包含在內(nèi)，就沒有兩套評(píng)論功能了。

四、robots文件

目前，確保內(nèi)容不被包含的方法是禁止robots文件。但也有一個(gè)缺點(diǎn)，就是重量會(huì)減少，雖然內(nèi)容不能包含在內(nèi)，但頁面卻成了一個(gè)只接受鏈接重量而不流出重量的無底洞。

五、限制跟蹤

Nofollow不保證不包括在內(nèi)。即使NF被添加到你網(wǎng)站上所有指向該頁面的鏈接中，你也不能保證其他網(wǎng)站不會(huì)獲得指向該頁面的鏈接。搜索引擎仍然可以找到這個(gè)頁面。

六、metanoindex+follow

為了防止集合轉(zhuǎn)移權(quán)重，我們可以在頁面上使用metaindex和metaflow，這樣頁面就不包括在內(nèi)，而是可以流出權(quán)重。的確，這是一個(gè)更好的方法。還有一個(gè)問題，否則會(huì)浪費(fèi)蜘蛛爬行的時(shí)間。

如何使網(wǎng)頁不被收錄是一個(gè)值得思考的問題。對(duì)于那些沒有意識(shí)到嚴(yán)重性的人員，你可以考慮在你的網(wǎng)站上有多少重復(fù)的內(nèi)容、低質(zhì)量的內(nèi)容、各種各樣的非搜索值分類和過濾網(wǎng)址。