爬蟲(chóng)質(zhì)量的評(píng)價(jià)標(biāo)準(zhǔn)

如果從搜索引擎用戶(hù)體驗(yàn)的角度考慮，對(duì)爬蟲(chóng)的工作效果有不同的評(píng)價(jià)標(biāo)準(zhǔn)，其中最主要的 3 個(gè)標(biāo)準(zhǔn)是：抓取網(wǎng)頁(yè)的覆蓋率、抓取網(wǎng)頁(yè)時(shí)新性及抓取網(wǎng)頁(yè)重要性。如果這 3 方面做得好，則搜索引擎用戶(hù)體驗(yàn)必定好。

對(duì)于現(xiàn)有的搜索引擎來(lái)說(shuō)，還不存在哪個(gè)搜索引擎有能力將互聯(lián)網(wǎng)上出現(xiàn)的所有網(wǎng)頁(yè)都下載并建立索引，所有搜索引擎只能索引互聯(lián)網(wǎng)的一部分。而所謂的抓取覆蓋率指的是爬蟲(chóng)抓取網(wǎng)頁(yè)的數(shù)量占互聯(lián)網(wǎng)所有網(wǎng)頁(yè)數(shù)量的比例，覆蓋率越高，等價(jià)于搜索引擎的召回率越高，用戶(hù)體驗(yàn)越好。

索引網(wǎng)頁(yè)和互聯(lián)網(wǎng)網(wǎng)頁(yè)對(duì)比

抓取到本地的網(wǎng)頁(yè)，很有可能已經(jīng)發(fā)生變化，或者被刪除，或者內(nèi)容被更改，因?yàn)榕老x(chóng)抓取完一輪需要較長(zhǎng)的時(shí)間周期，所以抓取到的網(wǎng)頁(yè)當(dāng)中必然會(huì)有一部分是過(guò)期的數(shù)據(jù)，即不能在網(wǎng)頁(yè)變化后第一時(shí)間反應(yīng)到網(wǎng)頁(yè)庫(kù)中。所以網(wǎng)頁(yè)庫(kù)中過(guò)期的數(shù)據(jù)越少，則網(wǎng)頁(yè)的時(shí)新性越好，這對(duì)用戶(hù)體驗(yàn)的改善大有裨益。

如果時(shí)新性不好，搜索到的都是過(guò)期數(shù)據(jù)，或者網(wǎng)頁(yè)被刪除，用戶(hù)的內(nèi)心感受可想而知。

互聯(lián)網(wǎng)盡管網(wǎng)頁(yè)繁多，但是每個(gè)網(wǎng)頁(yè)的差異性都很大，比如來(lái)自騰訊、網(wǎng)易新聞的網(wǎng)頁(yè)和某個(gè)作弊網(wǎng)頁(yè)相比，其重要性猶如天壤之別。如果搜索引擎抓取到的網(wǎng)頁(yè)大部分是比較重要的網(wǎng)頁(yè)，則可以說(shuō)明在抓取網(wǎng)頁(yè)重要性方面做得比較好。這方面做的越好，則越說(shuō)明搜索引擎的搜索精度越高。

通過(guò)以上 3 個(gè)標(biāo)準(zhǔn)的說(shuō)明分析，可以將爬蟲(chóng)研發(fā)的目標(biāo)簡(jiǎn)單描述如下：在資源有限的情況下，既然搜索引擎只能抓取互聯(lián)網(wǎng)現(xiàn)存網(wǎng)頁(yè)的一部分，那么就盡可能給選擇比較重要的那部分頁(yè)面來(lái)索引；對(duì)于已經(jīng)抓取到的網(wǎng)頁(yè)，盡可能快的更新內(nèi)容，使得索引網(wǎng)頁(yè)和互聯(lián)網(wǎng)對(duì)應(yīng)頁(yè)面內(nèi)容同步更新；在此基礎(chǔ)上，盡可能擴(kuò)大抓取范圍，抓取到更多以前無(wú)法發(fā)現(xiàn)的網(wǎng)頁(yè)。

3 個(gè)“盡可能”基本說(shuō)清楚了爬蟲(chóng)系統(tǒng)為增強(qiáng)用戶(hù)體驗(yàn)而奮斗的目標(biāo)。

大型商業(yè)搜索引擎為了滿(mǎn)足 3 個(gè)質(zhì)量標(biāo)準(zhǔn)，大都開(kāi)發(fā)了多套針對(duì)性很強(qiáng)的爬蟲(chóng)系統(tǒng)。以Google為例，至少包含兩套不同的爬蟲(chóng)系統(tǒng)：一套被稱(chēng)為Fresh Bot，主要考慮網(wǎng)頁(yè)的時(shí)新性，對(duì)于內(nèi)容更新頻繁的網(wǎng)頁(yè)，目前可以達(dá)到以秒計(jì)的更新周期；另外一套被稱(chēng)之為Deep Crawl Bot，主要針對(duì)更新不是那么頻繁的網(wǎng)頁(yè)抓取，以天為更新周期。

除此之外，Google投入了很大精力研發(fā)針對(duì)暗網(wǎng)的抓取系統(tǒng)，

分享文章：seo優(yōu)化公司：爬蟲(chóng)質(zhì)量的評(píng)價(jià)標(biāo)準(zhǔn)
網(wǎng)站鏈接：http://www.aaarwkj.com/news13/276563.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供軟件開(kāi)發(fā)、ChatGPT、品牌網(wǎng)站制作、外貿(mào)網(wǎng)站建設(shè)、品牌網(wǎng)站設(shè)計(jì)、企業(yè)建站

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶(hù)投稿、用戶(hù)轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話(huà)：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來(lái)源： 創(chuàng)新互聯(lián)