蜘蛛黑洞：

蜘蛛黑洞指的是網(wǎng)站通過(guò)極低的成本運(yùn)營(yíng)，制造出大量和內(nèi)容相識(shí)但參數(shù)不同的動(dòng)態(tài)URL ，像一個(gè)無(wú)限循環(huán)的“黑洞”將蜘蛛困住，蜘蛛花費(fèi)太多的時(shí)間在網(wǎng)站，浪費(fèi)了大量資源抓取的網(wǎng)頁(yè)為無(wú)效網(wǎng)頁(yè)。

如果你的網(wǎng)站存在蜘蛛黑洞現(xiàn)象，盡快的處理好，蜘蛛黑洞不利于網(wǎng)站的收錄，也會(huì)影響搜索引擎對(duì)網(wǎng)站的評(píng)分。

如何使用Robots避免蜘蛛黑洞？

如何利用Robots避免蜘蛛黑洞操作：

普通的篩選結(jié)果頁(yè)基本都是使用靜態(tài)鏈接，比如：

http:// bj.XXXXX. com/category/zizhucan/weigongcun

當(dāng)用戶選擇不同排序后，會(huì)自動(dòng)生成帶有不同參數(shù)的動(dòng)態(tài)鏈接，即使選擇是同一種排序條件，生成的參數(shù)也有不同的，比如：

http://bj.XXXXX.com/category/zizhucan/weigongcun/hot?mtt=1.index%2Fpoi.0.0.i1afqhek

http://bj.XXXXX.com/category/zizhucan/weigongcun/hot?mtt=1.index%2Fpoi.0.0.i1afqi5c

把帶有不同參數(shù)的結(jié)果排序頁(yè)面使用robots規(guī)則拒絕，告知搜索引擎，讓搜索引擎只抓取篩選結(jié)果頁(yè)，為用戶和搜索引擎節(jié)省時(shí)間。

Robots文件寫法中Disallow: /*?* 禁止訪問(wèn)網(wǎng)站中所有包含問(wèn)號(hào) (?) 的網(wǎng)址，通過(guò)這種方式，如果網(wǎng)站的無(wú)效頁(yè)面不希望被搜索引擎收錄，可以屏蔽掉低質(zhì)量的頁(yè)面，告訴搜索引擎哪些頁(yè)面可以抓取，有效的避免黑洞的形成。

網(wǎng)站題目：如何使用Robots避免蜘蛛黑洞？
網(wǎng)站地址：http://www.aaarwkj.com/news/212999.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供網(wǎng)站策劃、外貿(mào)網(wǎng)站建設(shè)、響應(yīng)式網(wǎng)站、做網(wǎng)站、網(wǎng)站設(shè)計(jì)公司、電子商務(wù)

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來(lái)源： 創(chuàng)新互聯(lián)