NEWS
網(wǎng)絡(luò)蜘蛛即Web Spider,是一個很形象的名字。把互聯(lián)網(wǎng)比喻成一個蜘蛛網(wǎng),那么Spider就是在網(wǎng)上爬來爬去的蜘蛛。網(wǎng)絡(luò)蜘蛛是通過網(wǎng)頁的鏈接地址來尋找網(wǎng)頁,從網(wǎng)站某一個頁面(通常是首頁)開始,讀取網(wǎng)頁的內(nèi)容,找到在網(wǎng)頁中的其它鏈接地址,然后通過這些鏈接地址尋找下一個網(wǎng)頁,這樣一直循環(huán)下去,直到把這個網(wǎng)站所有的網(wǎng)頁都抓取完為止。如果把整個互聯(lián)網(wǎng)當(dāng)成一個網(wǎng)站,那么網(wǎng)絡(luò)蜘蛛就可以用這個原理把互聯(lián)網(wǎng)上所有的網(wǎng)頁都抓取下來。
網(wǎng)站的排名、收錄都要經(jīng)常關(guān)注搜索引擎,大家經(jīng)常會談到蜘蛛抓取,那么怎么確定蜘蛛有沒有來過你的網(wǎng)站呢?
google蜘蛛: googlebot
百度蜘蛛:baiduspider
yahoo蜘蛛:slurp
soso蜘蛛:sosospider
msn蜘蛛:msnbot
有道蜘蛛:YodaoBot和OutfoxBot
搜狗蜘蛛:sougouspider
1、2010-11-15 18:18:10 是百度蜘蛛來的日期和時間。
2、 GET /post/5.html是百度蜘蛛訪問的頁面 get表示獲取的意思。
3、80是端口
4、220.181.108.166是百度蜘蛛的ip地址
5、Baiduspider+(+http://www.baidu.com/search/spider.htm)就是指百度蜘蛛了
6、www.***.net 王大君網(wǎng)絡(luò)營銷博客的網(wǎng)絡(luò)地址
7、200表示抓取成功,這是百度蜘蛛爬行后返回的代碼。
本文由廣州網(wǎng)站建設(shè)公司-三行網(wǎng)絡(luò)原創(chuàng),轉(zhuǎn)載請保留版權(quán)( 廣州網(wǎng)站建設(shè)www.stevenmarcscott.com )三行網(wǎng)絡(luò)——專注于企業(yè)網(wǎng)站建設(shè)、響應(yīng)式營銷型網(wǎng)站定制,歡迎來電咨詢!熱線:020-85628720、15915767698