網(wǎng)絡(luò)蜘蛛

網(wǎng)絡(luò)蜘蛛(Web Spider)又稱為：“網(wǎng)絡(luò)爬蟲”，“機(jī)器人”，簡稱“蜘蛛”。是通過網(wǎng)頁的鏈接地址來尋找網(wǎng)頁，從網(wǎng)站某一個(gè)頁面（通常是首頁）開始，讀取網(wǎng)頁的內(nèi)容，找到在網(wǎng)頁中的其它鏈接地址，然后通過這些鏈接地址尋找下一個(gè)網(wǎng)頁，這樣一直循環(huán)下去，直到把這個(gè)網(wǎng)站所有的網(wǎng)頁都抓取完為止。如果把整個(gè)互聯(lián)網(wǎng)當(dāng)成一個(gè)網(wǎng)站，那么網(wǎng)絡(luò)蜘蛛就可以用這個(gè)原理把互聯(lián)網(wǎng)上所有的網(wǎng)頁都抓取下來。

網(wǎng)絡(luò)蜘蛛就是一個(gè)爬行程序，一個(gè)抓取網(wǎng)頁的程序。網(wǎng)絡(luò)蜘蛛與搜索引擎有著比較密切的關(guān)系，目前全球知名的搜索引擎google、百度、雅虎等都為各自開發(fā)了網(wǎng)絡(luò)蜘蛛程序。

Google為了獲取上億的網(wǎng)頁，設(shè)計(jì)了一個(gè)分布式的爬行系統(tǒng)。一個(gè)URL服務(wù)器將URL列表提供給網(wǎng)絡(luò)爬行器。每個(gè)爬行器同時(shí)保持大約300個(gè)網(wǎng)絡(luò)連接。在最高速度的時(shí)候，通過4個(gè)爬行器，該系統(tǒng)可以每秒種獲取超過100個(gè)網(wǎng)頁。

影響爬行速度的一個(gè)重要因素是DNS查詢，為此每個(gè)爬行器都要維護(hù)一個(gè)自己的DNS緩沖。這樣每個(gè)連接都處于不同的狀態(tài)，包括DNS查詢、連到主機(jī)、發(fā)送請求、得到響應(yīng)。這些因素綜合起來使得爬行器變成一個(gè)非常復(fù)雜的系統(tǒng)。它通過異步輸入/輸出來管理事件，通過一定數(shù)量的隊(duì)列來管理獲取網(wǎng)頁過程中的狀態(tài)遷移。

目錄

• 1 抓取網(wǎng)頁的策略
• 2 更新周期
• 3 相關(guān)條目
• 4 參考來源

抓取網(wǎng)頁的策略

在抓取網(wǎng)頁的時(shí)候，網(wǎng)絡(luò)蜘蛛一般有兩種策略：廣度優(yōu)先和深度優(yōu)先。

網(wǎng)絡(luò)蜘蛛抓取策略

廣度優(yōu)先是指網(wǎng)絡(luò)蜘蛛會(huì)先抓取起始網(wǎng)頁中鏈接的所有網(wǎng)頁，然后再選擇其中的一個(gè)鏈接網(wǎng)頁，繼續(xù)抓取在此網(wǎng)頁中鏈接的所有網(wǎng)頁。這是最常用的方式，因?yàn)檫@個(gè)方法可以讓網(wǎng)絡(luò)蜘蛛并行處理，提高其抓取速度。

深度優(yōu)先是指網(wǎng)絡(luò)蜘蛛會(huì)從起始頁開始，一個(gè)鏈接一個(gè)鏈接跟蹤下去，處理完這條線路之后再轉(zhuǎn)入下一個(gè)起始頁，繼續(xù)跟蹤鏈接。這個(gè)方法有個(gè)優(yōu)點(diǎn)是網(wǎng)絡(luò)蜘蛛在設(shè)計(jì)的時(shí)候比較容易。

兩種策略的區(qū)別:

由于不可能抓取所有的網(wǎng)頁，有些網(wǎng)絡(luò)蜘蛛對一些不太重要的網(wǎng)站，設(shè)置了訪問的層數(shù)。例如，在右圖中，A為起始網(wǎng)頁，屬于0層，B、C、D、E、F屬于第1 層，G、H屬于第2層，I屬于第3層。如果網(wǎng)絡(luò)蜘蛛設(shè)置的訪問層數(shù)為2的話，網(wǎng)頁I是不會(huì)被訪問到的。這也讓有些網(wǎng)站上一部分網(wǎng)頁能夠在搜索引擎上搜索到，另外一部分不能被搜索到。對于網(wǎng)站設(shè)計(jì)者來說，扁平化的網(wǎng)站結(jié)構(gòu)設(shè)計(jì)有助于搜索引擎抓取其更多的網(wǎng)頁。

網(wǎng)絡(luò)蜘蛛在訪問網(wǎng)站網(wǎng)頁的時(shí)候，經(jīng)常會(huì)遇到加密數(shù)據(jù)和網(wǎng)頁權(quán)限的問題，有些網(wǎng)頁是需要會(huì)員權(quán)限才能訪問。當(dāng)然，網(wǎng)站的所有者可以通過協(xié)議讓網(wǎng)絡(luò)蜘蛛不去抓取，但對于一些出售報(bào)告的網(wǎng)站，他們希望搜索引擎能搜索到他們的報(bào)告，但又不能完全免費(fèi)的讓搜索者查看，這樣就需要給網(wǎng)絡(luò)蜘蛛提供相應(yīng)的用戶名和密碼。網(wǎng)絡(luò)蜘蛛可以通過所給的權(quán)限對這些網(wǎng)頁進(jìn)行網(wǎng)頁抓取，從而提供搜索。而當(dāng)搜索者點(diǎn)擊查看該網(wǎng)頁的時(shí)候，同樣需要搜索者提供相應(yīng)的權(quán)限驗(yàn)證。

更新周期

由于網(wǎng)站的內(nèi)容經(jīng)常在變化，因此網(wǎng)絡(luò)蜘蛛也需不斷的更新其抓取網(wǎng)頁的內(nèi)容，這就需要網(wǎng)絡(luò)蜘蛛按照一定的周期去掃描網(wǎng)站，查看哪些頁面是需要更新的頁面，哪些頁面是新增頁面，哪些頁面是已經(jīng)過期的死鏈接。

搜索引擎的更新周期對搜索引擎搜索的查全率有很大影響。如果更新周期太長，則總會(huì)有一部分新生成的網(wǎng)頁搜索不到；周期過短，技術(shù)實(shí)現(xiàn)會(huì)有一定難度，而且會(huì)對帶寬、服務(wù)器的資源都有浪費(fèi)。搜索引擎的網(wǎng)絡(luò)蜘蛛并不是所有的網(wǎng)站都采用同一個(gè)周期進(jìn)行更新，對于一些重要的更新量大的網(wǎng)站，更新的周期短，如有些新聞網(wǎng)站，幾個(gè)小時(shí)就更新一次；相反對于一些不重要的網(wǎng)站，更新的周期就長，可能一兩個(gè)月才更新一次。

一般來說，網(wǎng)絡(luò)蜘蛛在更新網(wǎng)站內(nèi)容的時(shí)候，不用把網(wǎng)站網(wǎng)頁重新抓取一遍，對于大部分的網(wǎng)頁，只需要判斷網(wǎng)頁的屬性（主要是日期），把得到的屬性和上次抓取的屬性相比較，如果一樣則不用更新。

相關(guān)條目

• 搜索引擎

參考來源

• 參考來源1
• 參考來源2
• 參考來源3