網(wǎng)絡(luò)爬蟲(chóng)是SEO人員應(yīng)該學(xué)習(xí)的基礎(chǔ)知識(shí)之一，認(rèn)識(shí)和理解網(wǎng)絡(luò)爬蟲(chóng)有助于更好地優(yōu)化網(wǎng)站。希望本次的SEO技術(shù)培訓(xùn)對(duì)大家有所幫助。

一、網(wǎng)絡(luò)爬蟲(chóng)簡(jiǎn)介

網(wǎng)絡(luò)爬蟲(chóng)，是指按照一定的規(guī)則、自動(dòng)抓取互聯(lián)網(wǎng)上信息的程序組件或腳本程序。在搜索引擎中，網(wǎng)絡(luò)爬蟲(chóng)就是搜索引擎發(fā)現(xiàn)和抓取文檔的自動(dòng)化程序。

二、網(wǎng)絡(luò)爬蟲(chóng)產(chǎn)生的背景

互聯(lián)網(wǎng)信息大爆炸，人們不滿(mǎn)足于僅僅依靠開(kāi)放目錄等傳統(tǒng)方式在網(wǎng)絡(luò)上尋找一些東西，為了滿(mǎn)足不同的人的不同需求，于是出現(xiàn)了網(wǎng)絡(luò)爬蟲(chóng)。

三、網(wǎng)絡(luò)爬蟲(chóng)面臨的問(wèn)題

在上一篇文章《搜索引擎的基本架構(gòu)》中提到的，搜索引擎架構(gòu)的兩個(gè)目標(biāo)是效果和效率，這同樣也是對(duì)網(wǎng)絡(luò)爬蟲(chóng)提出的要求。面對(duì)億級(jí)網(wǎng)頁(yè)數(shù)量，重復(fù)內(nèi)容很高，在SEO行業(yè)重復(fù)率可能在50%以上，網(wǎng)絡(luò)爬蟲(chóng)面臨的問(wèn)題是為了提高效率和效果，就需要在一定的時(shí)間內(nèi)獲得更多有高質(zhì)量頁(yè)面，摒棄那些原創(chuàng)度低、復(fù)制內(nèi)容、拼接內(nèi)容等頁(yè)面。

PS：當(dāng)然，在大網(wǎng)站發(fā)布出來(lái)的文章，尤其大站效應(yīng)，盡管不是首發(fā)，但依然排名很好，甚至比首發(fā)站排名還好。

四、網(wǎng)絡(luò)爬蟲(chóng)的分類(lèi)和策略

網(wǎng)絡(luò)爬蟲(chóng)有很多種類(lèi)，簡(jiǎn)單介紹以下幾種：

① 通用網(wǎng)絡(luò)爬蟲(chóng)

通用網(wǎng)絡(luò)爬蟲(chóng)，又稱(chēng)為“全網(wǎng)爬蟲(chóng)”，從一些種子網(wǎng)站開(kāi)始爬行，逐步擴(kuò)展到整個(gè)互聯(lián)網(wǎng)。

通用網(wǎng)絡(luò)爬蟲(chóng)策略：深度優(yōu)先策略和廣度優(yōu)先策略。

② 聚焦網(wǎng)絡(luò)爬蟲(chóng)

聚焦網(wǎng)絡(luò)爬蟲(chóng)，又稱(chēng)為“主題網(wǎng)絡(luò)爬蟲(chóng)”，預(yù)先選擇一個(gè)(或幾個(gè))相關(guān)主題，僅爬行并抓取這一類(lèi)的相關(guān)頁(yè)面。

聚焦網(wǎng)絡(luò)爬蟲(chóng)策略：聚焦網(wǎng)絡(luò)爬蟲(chóng)增加了鏈接和內(nèi)容評(píng)價(jià)模塊，所以其爬行策略的關(guān)鍵是評(píng)價(jià)頁(yè)面的鏈接和內(nèi)容后再進(jìn)行爬行。

③ 增量式網(wǎng)絡(luò)爬蟲(chóng)

增量式網(wǎng)絡(luò)爬蟲(chóng)，是指對(duì)已經(jīng)收錄的頁(yè)面進(jìn)行更新、爬行新頁(yè)面和發(fā)生變化的頁(yè)面。

增量式網(wǎng)絡(luò)爬蟲(chóng)策略：廣度優(yōu)先策略和PageRank優(yōu)先策略等。

④ Deep Web爬蟲(chóng)

搜索引擎蜘蛛可以爬行并抓取的頁(yè)面稱(chēng)之為“表層網(wǎng)頁(yè)”，某些不能通過(guò)靜態(tài)鏈接獲得的頁(yè)面稱(chēng)之為“深層網(wǎng)頁(yè)”，Deep Web爬蟲(chóng)就是抓取深層網(wǎng)頁(yè)的爬蟲(chóng)體系。

小結(jié)：一般來(lái)講，網(wǎng)絡(luò)爬蟲(chóng)抓取策略分為三種：

1)廣度優(yōu)先

搜索完當(dāng)前頁(yè)面所有鏈接，才開(kāi)始進(jìn)入下一層。

2)佳優(yōu)先

根據(jù)一定的網(wǎng)頁(yè)分析算法，比如鏈接算法和頁(yè)面加權(quán)算法等，優(yōu)先抓取更具有價(jià)值的頁(yè)面。

3)深度優(yōu)先

順著一個(gè)鏈接一直爬行，直到某一頁(yè)面再也沒(méi)有鏈接，再開(kāi)始爬行另外一條。但是一般都是從種子網(wǎng)站開(kāi)始抓取，如果采用這種形式可能會(huì)造成抓取的頁(yè)面質(zhì)量越來(lái)越低，所以這種策略使用較少。