Ⅰ 搜索引擎「蜘蛛」是指什麼
1.spider對一個網站伺服器造成的訪問壓力如何？
答：uspider會自動根據伺服器的負載能力調節訪問密度。在連續訪問一段時間後，、spider會暫停一會，以防止增大伺服器的訪問壓力。所以在一般情下，對您網站的伺服器不會造成過大壓力。
2.為什麼spider不停的抓取我的網站？
答：對於您網站上新產生的或者持續更新的頁面，spider會持續抓取。此外，您也可以檢查網站訪問日誌中spider的訪問是否正常，以防止有人惡意冒充spider來頻繁抓取您的網站。
3.我不想我的網站被spider訪問，我該怎麼做？
答：spider遵守互聯網robots協議。您可以利用robots.txt文件完全禁止spider訪問您的網站，或者禁止spider訪問您網站上的部分文件。
4.為什麼我的網站已經加了robots.txt，還能在網路搜索出來？
答：因為搜索引擎索引資料庫的更新需要時間。雖然spider已經停止訪問您網站上的網頁，但網路搜索引擎資料庫中已經建立的網頁索引信息，可能需要二至四周才會清除。 另外也請檢查您的robots配置是否正確。
5.我希望我的網站內容被網路索引但不被保存快照，我該怎麼做？
答：spider遵守互聯網meta robots協議。您可以利用網頁meta的設置，使網路顯示只對該網頁建索引，但並不在搜索結果中顯示該網頁的快照。
和robots的更新一樣，因為搜索引擎索引資料庫的更新需要時間，所以雖然您已經在網頁中通過meta禁止了網路在搜索結果中顯示該網頁的快照，但網路搜索引擎資料庫中如果已經建立了網頁索引信息，可能需要二至四周才會在線上生效。
6.Baispider多長時間之後會重新抓取我的網頁？
答：網路搜索引擎每周更新，網頁視重要性有不同的更新率，頻率在幾天至一月之間，Baispider會重新訪問和更新一個網頁。
7.Baispider抓取造成的帶寬堵塞？
答：Baispider的正常抓取並不會造成您網站的帶寬堵塞，造成此現象可能是由於有人冒充的spider惡意抓取。如果您發現有名為Baispider的agent抓取並且造成帶寬堵塞，請盡快和我們聯系。您可以將信息反饋至網路網頁投訴中心，如果能夠提供您網站該時段的訪問日誌將更加有利於我們的分析。
Ⅱ 搜索引擎蜘蛛的作用是什麼
搜索引擎蜘蛛，又稱網頁蜘蛛。
作用是抓取各個網站上的內容。簡單來說，網站上的內容如果要想被搜索引擎收錄，就必須要經過網頁蜘蛛的索引。
Ⅲ 怎樣查詢百度蜘蛛爬行
1：ftp連接網站伺服器
2：找到wwwlogs的文件並解壓
3：把昨天或者某天的內容通過記事本的形式查看
4：在文件頁面上任意處輸入ctrl+f，查找Baispider
5：有，則顯示爬行時間
6：沒有則說明蜘蛛沒來
Ⅳ 被蜘蛛爬過,但FTP上LOG文件夾空空的.沒文件.
應該是你的空間不支持查看日誌文件吧，和你的空間商交流下 查看原帖>>
Ⅳ 『搜索引擎和FTP伺服器有什麼關系
FTP和搜索引擎是不同的概念
一、文件傳輸協議（FTP）使得主機間可以共享文件。 FTP 使用 TCP 生成一個虛擬連接用於控制信息，然後再生成一個單獨的 TCP 連接用於數據傳輸。控制連接使用類似 TELNET 協議在主機間交換命令和消息。
FTP 的主要功能如下：
提供文件的共享（計算機程序 / 數據）；
支持間接使用遠程計算機；
使用戶不因各類主機文件存儲器系統的差異而受影響；
可靠且有效的傳輸數據。
FTP ，盡管可以直接被終端用戶使用，但其應用主要還是通過程序實現。
------------------------------------------------
二、搜索引擎指自動從英特網搜集信息，經過一定整理以後，提供給用戶進行查詢的系統。英特網上的信息浩瀚萬千，而且毫無秩序，所有的信息象汪洋上的一個個小島，網頁鏈接是這些小島之間縱橫交錯的橋梁，而搜索引擎，則為你繪制一幅一目瞭然的信息地圖，供你隨時查閱。
搜索引擎的工作原理?
搜索引擎的工作原理大致可以分為：
1、搜集信息：搜索引擎的信息搜集基本都是自動的。搜索引擎利用稱為網路蜘蛛(spider)的自動搜索機器人程序來連上每一個網頁上的超連結。機器人程序根據網頁鏈到其他中的超鏈接，就象日常生活中所說的「一傳十，十傳百……」一樣，從少數幾個網頁開始，連到資料庫上所有到其他網頁的鏈接。理論上，若網頁上有適當的超連結，機器人便可以遍歷絕大部分網頁。
2、整理信息：搜索引擎整理信息的過程稱為「建立索引」。搜索引擎不僅要保存搜集起來的信息，還要將它們按照一定的規則進行編排。這樣，搜索引擎根本不用重新翻查它所有保存的信息而迅速找到所要的資料。想像一下，如果信息是不按任何規則地隨意堆放在搜索引擎的資料庫中，那麼它每次找資料都得把整個資料庫完全翻查一遍，如此一來再快的計算機系統也沒有用。
3、接受查詢：用戶向搜索引擎發出查詢，搜索引擎接受查詢並向用戶返回資料。搜索引擎每時每刻都要接到來自大量用戶的幾乎是同時發出的查詢，它按照每個用戶的要求檢查自己的索引，在極短時間內找到用戶需要的資料，並返回給用戶。目前，搜索引擎返回主要是以網頁鏈接的形式提供的，這些通過這些鏈接，用戶便能到達含有自己所需資料的網頁。通常搜索引擎會在這些鏈接下提供一小段來自這些網頁的摘要信息以幫助用戶判斷此網頁是否含有自己需要的內容。
Ⅵ 搜索引擎蜘蛛爬行規律探秘(一)蜘蛛如何抓取鏈接
搜索引擎蜘蛛，對於我們來說非常神秘，本文的配圖使用蜘蛛俠的原因就在於此。當然我們也不是網路的也不是Google的，所以只能說探秘，而不是揭秘。本文內容比較簡單，只是給不知道的朋友一個分享的途徑，高手和牛人請繞行吧。
傳統意義上，我們感覺搜索引擎蜘蛛(spider)爬行，應該類似於真正的蜘蛛在蜘蛛網上爬行。也就是比如網路蜘蛛找到一個鏈接，順著這個鏈接爬行到一個頁面，然後再順著這個頁面裡面的鏈接繼續爬……這個類似於蜘蛛網，也類似於一棵大樹。這個理論雖然正確，但是不準確。
搜索引擎內部是有一個網址索引庫的，所以搜索引擎蜘蛛是從搜索引擎的伺服器出發，順著搜索引擎已有的網址爬行一個網頁，並將網頁內容抓取回來。頁面採集回來之後，搜索引擎會對其進行分析，將內容和鏈接分開，內容暫時先不說。分析出來鏈接之後，搜索引擎並不會馬上去派蜘蛛進行抓取，而是把鏈接和錨文本記錄下來交給網址索引庫進行分析、對比和計算，最後放入網址索引庫。進入了網址索引庫之後，才會有蜘蛛去抓取。
也就是如果出現了某個網頁的外鏈，並不一定會立刻有蜘蛛去抓取這個頁面，而是會有一個分析計算的過程。即便是這個外鏈在蜘蛛抓取之後被刪除了，這個鏈接也有可能已經被搜索引擎記錄，以後還有抓取的可能。而且下次如果蜘蛛再去抓取這個外鏈所在頁面，發現鏈接不存在了，或者外鏈所在頁面出現了404，那麼只是減少了這個外鏈的權重，應該不會去網址索引庫刪除這個鏈接。
所以說已經不存在的頁面上的鏈接，也有作用。今天就分享這些，以後繼續跟大家分享我自己分析的內容，如果有不準確的地方，請大家批評指正。
轉載請註明來自逍遙博客@LiboSEO，本文地址：http://liboseo.com/1060.html
除非註明，逍遙博客文章均為原創，轉載請註明出處和鏈接!
Ⅶ Web Spider網路蜘蛛，是什麼意思
隨便找個IP查詢工具，看看220.181.50.*這個IP段是哪裡的
我剛剛看了一下，是北京的。
ip220.181.50.1-ip220.181.50.10下均無一個網站，
網路的IP是220.181.6.18。
如果你能確定那個IP段是網路蜘蛛的來路的話，那它極有可能是網路的網路蜘蛛
你後面的補充也很有道理，也有可能220.181.50.*這個IP段是一個代理IP伺服器的IP段
不過我剛剛進一步的對這個IP段進行了查詢，最終可以確定220.181.50.*這個IP段它就是網路的網路蜘蛛（Baispider搜索器）使用的IP段，你點擊*&ct=0
你會發現220.181.50.*這個IP段在很多網站和論壇都有以遊客身份停留，但就是全都沒有回復。
什麼是網路蜘蛛：
網路蜘蛛即Web Spider，是一個很形象的名字。把互聯網比喻成一個蜘蛛網，那麼Spider就是在網上爬來爬去的蜘蛛。網路蜘蛛是通過網頁的鏈接地址來尋找網頁，從 網站某一個頁面（通常是首頁）開始，讀取網頁的內容，找到在網頁中的其它鏈接地址，然後通過這些鏈接地址尋找下一個網頁，這樣一直循環下去，直到把這個網 站所有的網頁都抓取完為止。如果把整個互聯網當成一個網站，那麼網路蜘蛛就可以用這個原理把互聯網上所有的網頁都抓取下來。
Ⅷ 什麼是網路蜘蛛
[摘要]當「蜘蛛」程序出現時，現代意義上的搜索引擎才初露端倪。它實際上是一種電腦「機器人」（Computer Robot），電腦「機器人」是指某個能以人類無法達到的速度不間斷地執行某項任務的軟體程序。由於專門用於檢索信息的「機器人」程序就象蜘蛛一樣在網路間爬來爬去，反反復復，不知疲倦。所以，搜索引擎的「機器人」程序就被稱為「蜘蛛」程序。
關鍵詞：網路蜘蛛 起源 原理 優化
目錄
什麼是網路蜘蛛
網路蜘蛛的起源
網路蜘蛛的工作原理
正文開始 【網路蜘蛛】
1、什麼是網路蜘蛛
----什麼是網路蜘蛛呢？網路蜘蛛即Web Spider，是一個很形象的名字。把互聯網比喻成一個蜘蛛網，那麼Spider就是在網上爬來爬去的蜘蛛。網路蜘蛛是通過網頁的鏈接地址來尋找網頁，從 網站某一個頁面（通常是首頁）開始，讀取網頁的內容，找到在網頁中的其它鏈接地址，然後通過這些鏈接地址尋找下一個網頁，這樣一直循環下去，直到把這個網 站所有的網頁都抓取完為止。如果把整個互聯網當成一個網站，那麼網路蜘蛛就可以用這個原理把互聯網上所有的網頁都抓取下來。
----這樣看來，網路蜘蛛就是一個爬行程序，一個抓取網頁的程序。
2、網路蜘蛛的起源
----要說網路蜘蛛的起源，我們還得從搜索引擎說起，什麼是搜索引擎呢？搜索引擎的起源是什麼，這和網路蜘蛛的起源密切相關。
----搜索引擎指自動從英特網搜集信息，經過一定整理以後，提供給用戶進行查詢的系統。英特網上的信息浩瀚萬千，而且毫無秩序，所有的信息象汪洋上的一個個小島，網頁鏈接是這些小島之間縱橫交錯的橋梁，而搜索引擎，則為你繪制一幅一目瞭然的信息地圖，供你隨時查閱。
----搜索引擎從1990年原型初顯，到現在成為人們生活中必不可少的一部分，它經歷了太多技術和觀念的變革。
----十四年前1994年的一月份，第一個既可搜索又可瀏覽的分類目錄EINetGalaxy上線了。在它之後才出現了雅虎，直至我們現在熟知的Google、網路。但是他們都不是第一個吃搜索引擎這個螃蟹的第一人。從搜索FTP上的文件開始，搜索引擎的原型就出現了，那時還未有萬維網，當時人們先用手工後用蜘蛛程序搜索網頁，但隨著互聯網的不斷壯大，怎樣能夠搜集到的網頁數量更多、時間更短成為了當時的難點和重點，成為人們研究的重點。
----搜索引擎原型初顯
----如果要追溯的話，搜索引擎的歷史比WorldWideWeb 還要長。早在Web出現之前，互聯網上就已經存在許多旨在讓人們共享的信息資源了。這些資源當時主要存在於各種允許匿名訪問的FTP 站點。為了便於人們在分散的FTP資源中找到所需的東西，1990年，加拿大麥吉爾大學（McGillUniversity）的幾個大學生開發了一個軟體Archie。它是一個可搜索的FTP文件名列表，用戶必須輸入精確的文件名搜索，然後Archie會告訴用戶哪一個FTP地址可以下載這個文件。Archie實際上是一個大型的資料庫，再加上與這個大型資料庫相關聯的一套檢索方法。Archie雖然還不是搜索引擎,但是從它的工作原理上看，它是所有搜索引擎的祖先。
----當萬維網（WorldWideWeb）出現後，人們可以通過 html傳播網頁信息，網路上的信息開始成倍增長。人們紛紛使用各種方法將網路上的信息搜集來，進行分類、整理，以方便查找。現在人們很熟悉的網站雅虎（Yahoo）就是在這個環境下誕生的。還在Stanford大學讀書的美籍華人楊致遠和他的同學迷上了互聯網。他們將互聯網上有趣的網頁搜集過來，與同學一起分享。後來，1994年4月，他們倆共同辦了雅虎。隨著訪問量和收錄鏈接數的增長，雅虎目錄開始支持簡單的資料庫搜索。但是因為雅虎的數據是手工輸入的，所以不能真正被歸為搜索引擎，事實上只是一個可搜索的目錄。
----當「蜘蛛」程序出現時，現代意義上的搜索引擎才初露端倪。它實際上是一種電腦「機器人」（Computer Robot），電腦「機器人」是指某個能以人類無法達到的速度不間斷地執行某項任務的軟體程序。由於專門用於檢索信息的「機器人」程序就象蜘蛛一樣在網路間爬來爬去，反反復復，不知疲倦。所以，搜索引擎的「機器人」程序就被稱為「蜘蛛」程序。
----這種程序實際是利用html文檔之間的鏈接關系，在Web上一個網頁一個網頁的爬取（crawl），將這些網頁抓到系統來進行分析，並放入資料庫中。第一個開發出「蜘蛛」程序的是Matthew Gray，他於1993年開發了World Wide Web Wanderer，它最初建立時是為了統計互聯網上的伺服器數量，到後來發展到能夠捕獲網址。現代搜索引擎的思路就來源於Wanderer，後來很多人在此基礎上對蜘蛛程序進行了改進。
----1994年7月20日發布的Lycos網站第一個將 「蜘蛛」程序接入到其索引程序中。引入「蜘蛛」後給其帶來的最大優勢就在於其遠勝於其它搜索引擎的數據量。自此之後幾乎所有占據主導地位的搜索引擎中，都靠「蜘蛛」來搜集網頁信息。Infoseek是另一個重要的搜索引擎，於1994年年底才與公眾見面。起初，Infoseek只是一個不起眼的搜索引擎，它沿襲Yahoo!和Lycos的概念，並沒有什麼獨特的革新。但是它友善的用戶界面、大量附加服務使它在用戶中贏得了口碑。1995年12月，它與Netscape的戰略性協議，使它成為一個強勢搜索引擎：當用戶點擊Netscape瀏覽器上的搜索按鈕時，彈出Infoseek的搜索服務，而此前由Yahoo!提供該服務。 1995年12月15日，Alta Vista正式上線。它是第一個支持高級搜索語法的搜索引擎，成功地整合了此前人類所有的信息檢索技術，解決了包括字根處理、關鍵詞檢索、布爾邏輯，以及通過向量空間模型的查詢排名等關鍵問題。正式公開之前，Alta Vista就已經擁有20萬訪問用戶，在短短三個星期之內，到訪人數由每天30萬次增加到200萬次。它的成功在於滿足了用戶三個方面的需求：網上索引范圍超過了此前任何一家搜索引擎；短短幾秒鍾內便可從龐大的資料庫中為用戶返回搜索結果；Alta Vista小組從一開始就採用了一種模塊設計技術，能夠跟蹤網站的流行趨勢，同時不斷擴大處理能力。在當時許多搜索引擎之中，Alta Vista脫穎而出，成為網路搜索的代名詞。Google就是站在這樣的巨人的肩膀上顛覆並創造著。「上網即搜索」 改變了人們上網方式的，就是現在鼎鼎大名的Google。Google並不是搜索引擎的發明者，甚至有點落後，但是它卻讓人們愛上了搜索。
----1998年9月，在佩奇和布林創建Google之時，業界對互聯網搜索功能的理解是：某個關鍵詞在一個文檔中出現的頻率越高，該文檔在搜索結果中的排列位置就要越顯著。這就引出了這樣一個問題，如果一個頁面充斥著某一個關鍵字的話，那麼它將排在很顯著的位置，但這樣一個頁面對於用戶來說，卻沒有任何意義。佩奇和布林發明了「網頁級別」（PageRank）技術，來排列搜索結果。即考察該頁面在網上被鏈接的頻率和重要性來排列，互聯網上指向這一頁面的重要網站越多，該頁面的位次也就越高。當從網頁A鏈接到網頁B時，Google 就認為「網頁A投了網頁B一票」。Google根據網頁的得票數評定其重要性。然而，除了考慮網頁得票數的純數量之外，Google還要分析投票的網頁，「重要」的網頁所投出的票就會有更高的權重，並且有助於提高其他網頁的「重要性」。 Google以其復雜而全自動的搜索方法排除了任何人為因素對搜索結果的影響。沒人能花錢買到更高的網頁級別，從而保證了網頁排名的客觀公正。除此之外，動態摘要、網頁快照、多文檔格式支持、地圖股票詞典尋人等集成搜索也都深得網民的喜愛。其他眾多搜索引擎也都緊跟Google，推出這些服務。Fast（Alltheweb）公司發布的搜索引擎AllTheWeb，總部位於挪威，其在海外的風頭直逼Google。Alltheweb的網頁搜索支持Flash和pdf搜索，支持多語言搜索，還提供新聞搜索、圖像搜索、視頻、MP3、和FTP搜索，擁有極其強大的高級搜索功能。而中國的網路更是憑借「更懂中文」而吸引著中國的網路受眾，它擁有超過10億的中文網頁資料庫，並且，這些網頁的數量每天正以千萬級的速度在增長。
----搜索引擎越來越成為人們生活中重要的一部分，找資料、查地圖、聽音樂，只有想不到的，沒有搜索不到的。
----搜索引擎的三個基本原理
----1．利用蜘蛛系統程序，自動訪問互聯網，並沿著任何網頁中的所有URL爬到其它網頁，重復這過程，並把爬過的所有網頁收集回來。
----2.由分析索引系統程序對收集回來的網頁進行分析，提取相關網頁信息，根據一定的相關度演算法進行大量復雜計算，得到每一個網頁針對頁面內容中及超鏈中每一個關鍵詞的相關度（或重要性），然後用這些相關信息建立網頁索引資料庫。
----3.當用戶輸入關鍵詞搜索後，由搜索系統程序從網頁索引資料庫中找到符合該關鍵詞的所有相關網頁。相關度數值排序，相關度越高，排名越靠前。最後，由頁面生成系統將搜索結果的鏈接地址和頁面內容摘要等內容組織起來返回給用戶。
----說到這里，你可能對搜索引擎和網路蜘蛛有了一個初步的了解了吧！
3、網路蜘蛛的工作原理
----對於搜索引擎來說，要抓取互聯網上所有的網頁幾乎是不可能的，從目前公布的數據來看，容量最大的搜索引擎也不過是抓取了整個網頁數量的百分之四十左右。這 其中的原因一方面是抓取技術的瓶頸，無法遍歷所有的網頁，有許多網頁無法從其它網頁的鏈接中找到；另一個原因是存儲技術和處理技術的問題，如果按照每個頁 面的平均大小為20K計算（包含圖片），100億網頁的容量是100×2000G位元組，即使能夠存儲，下載也存在問題（按照一台機器每秒下載20K計算， 需要340台機器不停的下載一年時間，才能把所有網頁下載完畢）。同時，由於數據量太大，在提供搜索時也會有效率方面的影響。因此，許多搜索引擎的網路蜘 蛛只是抓取那些重要的網頁，而在抓取的時候評價重要性主要的依據是某個網頁的鏈接深度。
----在抓取網頁的時候，網路蜘蛛一般有兩種策略：廣度優先和深度優先（如下圖所示）。
----廣度優先是指網路蜘蛛會先抓取起始網頁中鏈接的所有網頁，然後再選擇其中 的一個鏈接網頁，繼續抓取在此網頁中鏈接的所有網頁。這是最常用的方式，因為這個方法可以讓網路蜘蛛並行處理，提高其抓取速度。深度優先是指網路蜘蛛會從 起始頁開始，一個鏈接一個鏈接跟蹤下去，處理完這條線路之後再轉入下一個起始頁，繼續跟蹤鏈接。這個方法有個優點是網路蜘蛛在設計的時候比較容易。兩種策 略的區別，下圖的說明會更加明確。
----由於不可能抓取所有的網頁，有些網路蜘蛛對一些不太重要的網站，設置了訪問的層數。例如，在上圖中，A為起始網頁，屬於0層，B、C、D、E、F屬於第1 層，G、H屬於第2層，I屬於第3層。如果網路蜘蛛設置的訪問層數為2的話，網頁I是不會被訪問到的。這也讓有些網站上一部分網頁能夠在搜索引擎上搜索 到，另外一部分不能被搜索到。對於網站設計者來說，扁平化的網站結構設計有助於搜索引擎抓取其更多的網頁。
----網路蜘蛛在訪問網站網頁的時候，經常會遇到加密數據和網頁許可權的問題，有些網頁是需要會員許可權才能訪問。當然，網站的所有者可以通過協議讓網路蜘蛛不去抓 取（下小節會介紹），但對於一些出售報告的網站，他們希望搜索引擎能搜索到他們的報告，但又不能完全免費的讓搜索者查看，這樣就需要給網路蜘蛛提供相應的 用戶名和密碼。網路蜘蛛可以通過所給的許可權對這些網頁進行網頁抓取，從而提供搜索。而當搜索者點擊查看該網頁的時候，同樣需要搜索者提供相應的許可權驗證。
----每個網路蜘蛛都有自己的名字，在抓取網頁的時候，都會向網站標明自己的身份。網路蜘蛛在抓取網頁的時候會發送一個請求，這個請求中就有一個欄位為User －agent，用於標識此網路蜘蛛的身份。例如Google網路蜘蛛的標識為GoogleBot，Bai網路蜘蛛的標識為BaiDuSpider， Yahoo網路蜘蛛的標識為Inktomi Slurp。如果在網站上有訪問日誌記錄，網站管理員就能知道，哪些搜索引擎的網路蜘蛛過來過，什麼時候過來的，以及讀了多少數據等等。如果網站管理員發 現某個蜘蛛有問題，就通過其標識來和其所有者聯系。
----網路蜘蛛進入一個網站，一般會訪問一個特殊的文本文件Robots.txt，這個文件一般放在網站伺服器的根目錄下，如：[url]http://www.blogchina.com/robots.txt[/url]。 網站管理員可以通過robots.txt來定義哪些目錄網路蜘蛛不能訪問，或者哪些目錄對於某些特定的網路蜘蛛不能訪問。例如有些網站的可執行文件目錄和 臨時文件目錄不希望被搜索引擎搜索到，那麼網站管理員就可以把這些目錄定義為拒絕訪問目錄。Robots.txt語法很簡單，例如如果對目錄沒有任何限 制，可以用以下兩行來描述： User-agent: *
Disallow:
----當然，Robots.txt只是一個協議，如果網路蜘蛛的設計者不遵循這個協議，網站管理員也無法阻止網路蜘蛛對於某些頁面的訪問，但一般的網路蜘蛛都會遵循這些協議，而且網站管理員還可以通過其它方式來拒絕網路蜘蛛對某些網頁的抓取。
---- 網路蜘蛛在下載網頁的時候，會去識別網頁的HTML代碼，在其代碼的部分，會有META標識。通過這些標識，可以告訴網路蜘蛛本網頁是否需要被抓取，還可 以告訴網路蜘蛛本網頁中的鏈接是否需要被繼續跟蹤。例如：表示本網頁不需要被抓取，但是網頁內的鏈接需要被跟蹤。
---- 搜索引擎建立網頁索引，處理的對象是文本文件。對於網路蜘蛛來說，抓取下來網頁包括各種格式，包括html、圖片、doc、pdf、多媒體、動態網頁及其 它格式等。這些文件抓取下來後，需要把這些文件中的文本信息提取出來。准確提取這些文檔的信息，一方面對搜索引擎的搜索准確性有重要作用，另一方面對於網 絡蜘蛛正確跟蹤其它鏈接有一定影響。對於doc、pdf等文檔，這種由專業廠商提供的軟體生成的文檔，廠商都會提供相應的文本提取介面。網路蜘蛛只需要調用這些插件的介面，就可以輕松的提取文檔中的文本信息和文件其它相關的信息。但HTML等文檔不一樣，HTML有一套自己的語法，通過不同的命令標識符來表示不同的字體、顏色、位置等版式，如：、、等， 提取文本信息時需要把這些標識符都過濾掉。過濾標識符並非難事，因為這些標識符都有一定的規則，只要按照不同的標識符取得相應的信息即可。但在識別這些信 息的時候，需要同步記錄許多版式信息，例如文字的字體大小、是否是標題、是否是加粗顯示、是否是頁面的關鍵詞等，這些信息有助於計算單詞在網頁中的重要程 度。同時，對於HTML網頁來說，除了標題和正文以外，會有許多廣告鏈接以及公共的頻道鏈接，這些鏈接和文本正文一點關系也沒有，在提取網頁內容的時候， 也需要過濾這些無用的鏈接。例如某個網站有「產品介紹」頻道，因為導航條在網站內每個網頁都有，若不過濾導航條鏈接，在搜索「產品介紹」的時候，則網站內 每個網頁都會搜索到，無疑會帶來大量垃圾信息。過濾這些無效鏈接需要統計大量的網頁結構規律，抽取一些共性，統一過濾；對於一些重要而結果特殊的網站，還 需要個別處理。這就需要網路蜘蛛的設計有一定的擴展性。
---- 對於多媒體、圖片等文件，一般是通過鏈接的錨文本（即，鏈接文本）和相關的文件注釋來判斷這些文件的內容。例如有一個鏈接文字為「張曼玉照片」，其鏈接指 向一張bmp格式的圖片，那麼網路蜘蛛就知道這張圖片的內容是「張曼玉的照片」。這樣，在搜索「張曼玉」和「照片」的時候都能讓搜索引擎找到這張圖片。另 外，許多多媒體文件中有文件屬性，考慮這些屬性也可以更好的了解文件的內容。
---- 動態網頁一直是網路蜘蛛面臨的難題。所謂動態網頁，是相對於靜態網頁而言，是由程序自動生成的頁面，這樣的好處是可以快速統一更改網頁風格，也可以減少網 頁所佔伺服器的空間，但同樣給網路蜘蛛的抓取帶來一些麻煩。由於開發語言不斷的增多，動態網頁的類型也越來越多，如：asp、jsp、php等。這些類型 的網頁對於網路蜘蛛來說，可能還稍微容易一些。網路蜘蛛比較難於處理的是一些腳本語言（如VBScript和JavaScript）生成的網頁，如果要完 善的處理好這些網頁，網路蜘蛛需要有自己的腳本解釋程序。對於許多數據是放在資料庫的網站，需要通過本網站的資料庫搜索才能獲得信息，這些給網路蜘蛛的抓 取帶來很大的困難。對於這類網站，如果網站設計者希望這些數據能被搜索引擎搜索，則需要提供一種可以遍歷整個資料庫內容的方法。
對於網頁內容的提取，一直是網路蜘蛛中重要的技術。整個系統一般採用插件的形式，通過一個插件管理服務程序，遇到不同格式的網頁採用不同的插件處理。這種 方式的好處在於擴充性好，以後每發現一種新的類型，就可以把其處理方式做成一個插件補充到插件管理服務程序之中。
---- 由於網站的內容經常在變化，因此網路蜘蛛也需不斷的更新其抓取網頁的內容，這就需要網路蜘蛛按照一定的周期去掃描網站，查看哪些頁面是需要更新的頁面，哪些頁面是新增頁面，哪些頁面是已經過期的死鏈接。
---- 搜索引擎的更新周期對搜索引擎搜索的查全率有很大影響。如果更新周期太長，則總會有一部分新生成的網頁搜索不到；周期過短，技術實現會有一定難度，而且會 對帶寬、伺服器的資源都有浪費。搜索引擎的網路蜘蛛並不是所有的網站都採用同一個周期進行更新，對於一些重要的更新量大的網站，更新的周期短，如有些新聞 網站，幾個小時就更新一次；相反對於一些不重要的網站，更新的周期就長，可能一兩個月才更新一次。
---- 一般來說，網路蜘蛛在更新網站內容的時候，不用把網站網頁重新抓取一遍，對於大部分的網頁，只需要判斷網頁的屬性（主要是日期），把得到的屬性和上次抓取的屬性相比較，如果一樣則不用更新。
---- 現在大家對網路蜘蛛的工作原理有了初步的了解了吧，了解後就要在以後的網站製作中考慮蜘蛛的爬行規律，比如製作網站地圖就很重要，好了，如果你有更好的見解，請到這里發表，火鳥非常願意與你交流，共同研究網站製作技巧，盡量將自己的網站製作的符合標准，符合用戶的習慣！
Ⅸ 誰可以簡單說說搜索引擎的蜘蛛程序是什麼
在互聯網發展初期，網站相對較少，信息查找比較容易。然而伴隨互聯網爆炸性的發展，普通網路用戶想找到所需的資料簡直如同大海撈針，這時為滿足大眾信息檢索需求的專業搜索網站便應運而生了。
現代意義上的搜索引擎的祖先，是1990年由蒙特利爾大學學生Alan Emtage發明的Archie。雖然當時World Wide Web還未出現，但網路中文件傳輸還是相當頻繁的，而且由於大量的文件散布在各個分散的FTP主機中，查詢起來非常不便，因此Alan Emtage想到了開發一個可以以文件名查找文件的系統，於是便有了Archie。
Archie工作原理與現在的搜索引擎已經很接近，它依靠腳本程序自動搜索網上的文件，然後對有關信息進行索引，供使用者以一定的表達式查詢。由於Archie深受用戶歡迎，受其啟發，美國內華達System Computing Services大學於1993年開發了另一個與之非常相似的搜索工具，不過此時的搜索工具除了索引文件外，已能檢索網頁。
當時，「機器人」一詞在編程者中十分流行。電腦「機器人」（Computer Robot）是指某個能以人類無法達到的速度不間斷地執行某項任務的軟體程序。由於專門用於檢索信息的「機器人」程序象蜘蛛一樣在網路間爬來爬去，因此，搜索引擎的「機器人」程序就被稱為「蜘蛛」程序。
Ⅹ 蜘蛛是什麼
網路蜘蛛 [摘要]當「蜘蛛」程序出現時，現代意義上的搜索引擎才初露端倪。它實際上是一種電腦「機器人」（Computer Robot），電腦「機器人」是指某個能以人類無法達到的速度不間斷地執行某項任務的軟體程序。由於專門用於檢索信息的「機器人」程序就象蜘蛛一樣在網路間爬來爬去，反反復復，不知疲倦。所以，搜索引擎的「機器人」程序就被稱為「蜘蛛」程序。
關鍵詞：網路蜘蛛 起源 原理 優化
目錄
什麼是網路蜘蛛
網路蜘蛛的起源
網路蜘蛛的工作原理
正文開始 【網路蜘蛛】
1、什麼是網路蜘蛛
----什麼是網路蜘蛛呢？網路蜘蛛即Web Spider，是一個很形象的名字。把互聯網比喻成一個蜘蛛網，那麼Spider就是在網上爬來爬去的蜘蛛。網路蜘蛛是通過網頁的鏈接地址來尋找網頁，從 網站某一個頁面（通常是首頁）開始，讀取網頁的內容，找到在網頁中的其它鏈接地址，然後通過這些鏈接地址尋找下一個網頁，這樣一直循環下去，直到把這個網 站所有的網頁都抓取完為止。如果把整個互聯網當成一個網站，那麼網路蜘蛛就可以用這個原理把互聯網上所有的網頁都抓取下來。
----這樣看來，網路蜘蛛就是一個爬行程序，一個抓取網頁的程序。
2、網路蜘蛛的起源
----要說網路蜘蛛的起源，我們還得從搜索引擎說起，什麼是搜索引擎呢？搜索引擎的起源是什麼，這和網路蜘蛛的起源密切相關。
----搜索引擎指自動從英特網搜集信息，經過一定整理以後，提供給用戶進行查詢的系統。英特網上的信息浩瀚萬千，而且毫無秩序，所有的信息象汪洋上的一個個小島，網頁鏈接是這些小島之間縱橫交錯的橋梁，而搜索引擎，則為你繪制一幅一目瞭然的信息地圖，供你隨時查閱。
----搜索引擎從1990年原型初顯，到現在成為人們生活中必不可少的一部分，它經歷了太多技術和觀念的變革。
----十四年前1994年的一月份，第一個既可搜索又可瀏覽的分類目錄EINetGalaxy上線了。在它之後才出現了雅虎，直至我們現在熟知的Google、網路。但是他們都不是第一個吃搜索引擎這個螃蟹的第一人。從搜索FTP上的文件開始，搜索引擎的原型就出現了，那時還未有萬維網，當時人們先用手工後用蜘蛛程序搜索網頁，但隨著互聯網的不斷壯大，怎樣能夠搜集到的網頁數量更多、時間更短成為了當時的難點和重點，成為人們研究的重點。
----搜索引擎原型初顯
----如果要追溯的話，搜索引擎的歷史比WorldWideWeb 還要長。早在Web出現之前，互聯網上就已經存在許多旨在讓人們共享的信息資源了。這些資源當時主要存在於各種允許匿名訪問的FTP 站點。為了便於人們在分散的FTP資源中找到所需的東西，1990年，加拿大麥吉爾大學（McGillUniversity）的幾個大學生開發了一個軟體Archie。它是一個可搜索的FTP文件名列表，用戶必須輸入精確的文件名搜索，然後Archie會告訴用戶哪一個FTP地址可以下載這個文件。Archie實際上是一個大型的資料庫，再加上與這個大型資料庫相關聯的一套檢索方法。Archie雖然還不是搜索引擎,但是從它的工作原理上看，它是所有搜索引擎的祖先。
----當萬維網（WorldWideWeb）出現後，人們可以通過 html傳播網頁信息，網路上的信息開始成倍增長。人們紛紛使用各種方法將網路上的信息搜集來，進行分類、整理，以方便查找。現在人們很熟悉的網站雅虎（Yahoo）就是在這個環境下誕生的。還在Stanford大學讀書的美籍華人楊致遠和他的同學迷上了互聯網。他們將互聯網上有趣的網頁搜集過來，與同學一起分享。後來，1994年4月，他們倆共同辦了雅虎。隨著訪問量和收錄鏈接數的增長，雅虎目錄開始支持簡單的資料庫搜索。但是因為雅虎的數據是手工輸入的，所以不能真正被歸為搜索引擎，事實上只是一個可搜索的目錄。
----當「蜘蛛」程序出現時，現代意義上的搜索引擎才初露端倪。它實際上是一種電腦「機器人」（Computer Robot），電腦「機器人」是指某個能以人類無法達到的速度不間斷地執行某項任務的軟體程序。由於專門用於檢索信息的「機器人」程序就象蜘蛛一樣在網路間爬來爬去，反反復復，不知疲倦。所以，搜索引擎的「機器人」程序就被稱為「蜘蛛」程序。
----這種程序實際是利用html文檔之間的鏈接關系，在Web上一個網頁一個網頁的爬取（crawl），將這些網頁抓到系統來進行分析，並放入資料庫中。第一個開發出「蜘蛛」程序的是Matthew Gray，他於1993年開發了World Wide Web Wanderer，它最初建立時是為了統計互聯網上的伺服器數量，到後來發展到能夠捕獲網址。現代搜索引擎的思路就來源於Wanderer，後來很多人在此基礎上對蜘蛛程序進行了改進。
----1994年7月20日發布的Lycos網站第一個將 「蜘蛛」程序接入到其索引程序中。引入「蜘蛛」後給其帶來的最大優勢就在於其遠勝於其它搜索引擎的數據量。自此之後幾乎所有占據主導地位的搜索引擎中，都靠「蜘蛛」來搜集網頁信息。Infoseek是另一個重要的搜索引擎，於1994年年底才與公眾見面。起初，Infoseek只是一個不起眼的搜索引擎，它沿襲Yahoo!和Lycos的概念，並沒有什麼獨特的革新。但是它友善的用戶界面、大量附加服務使它在用戶中贏得了口碑。1995年12月，它與Netscape的戰略性協議，使它成為一個強勢搜索引擎：當用戶點擊Netscape瀏覽器上的搜索按鈕時，彈出Infoseek的搜索服務，而此前由Yahoo!提供該服務。 1995年12月15日，Alta Vista正式上線。它是第一個支持高級搜索語法的搜索引擎，成功地整合了此前人類所有的信息檢索技術，解決了包括字根處理、關鍵詞檢索、布爾邏輯，以及通過向量空間模型的查詢排名等關鍵問題。正式公開之前，Alta Vista就已經擁有20萬訪問用戶，在短短三個星期之內，到訪人數由每天30萬次增加到200萬次。它的成功在於滿足了用戶三個方面的需求：網上索引范圍超過了此前任何一家搜索引擎；短短幾秒鍾內便可從龐大的資料庫中為用戶返回搜索結果；Alta Vista小組從一開始就採用了一種模塊設計技術，能夠跟蹤網站的流行趨勢，同時不斷擴大處理能力。在當時許多搜索引擎之中，Alta Vista脫穎而出，成為網路搜索的代名詞。Google就是站在這樣的巨人的肩膀上顛覆並創造著。「上網即搜索」 改變了人們上網方式的，就是現在鼎鼎大名的Google。Google並不是搜索引擎的發明者，甚至有點落後，但是它卻讓人們愛上了搜索。
----1998年9月，在佩奇和布林創建Google之時，業界對互聯網搜索功能的理解是：某個關鍵詞在一個文檔中出現的頻率越高，該文檔在搜索結果中的排列位置就要越顯著。這就引出了這樣一個問題，如果一個頁面充斥著某一個關鍵字的話，那麼它將排在很顯著的位置，但這樣一個頁面對於用戶來說，卻沒有任何意義。佩奇和布林發明了「網頁級別」（PageRank）技術，來排列搜索結果。即考察該頁面在網上被鏈接的頻率和重要性來排列，互聯網上指向這一頁面的重要網站越多，該頁面的位次也就越高。當從網頁A鏈接到網頁B時，Google 就認為「網頁A投了網頁B一票」。Google根據網頁的得票數評定其重要性。然而，除了考慮網頁得票數的純數量之外，Google還要分析投票的網頁，「重要」的網頁所投出的票就會有更高的權重，並且有助於提高其他網頁的「重要性」。 Google以其復雜而全自動的搜索方法排除了任何人為因素對搜索結果的影響。沒人能花錢買到更高的網頁級別，從而保證了網頁排名的客觀公正。除此之外，動態摘要、網頁快照、多文檔格式支持、地圖股票詞典尋人等集成搜索也都深得網民的喜愛。其他眾多搜索引擎也都緊跟Google，推出這些服務。Fast（Alltheweb）公司發布的搜索引擎AllTheWeb，總部位於挪威，其在海外的風頭直逼Google。Alltheweb的網頁搜索支持Flash和pdf搜索，支持多語言搜索，還提供新聞搜索、圖像搜索、視頻、MP3、和FTP搜索，擁有極其強大的高級搜索功能。而中國的網路更是憑借「更懂中文」而吸引著中國的網路受眾，它擁有超過10億的中文網頁資料庫，並且，這些網頁的數量每天正以千萬級的速度在增長。
----搜索引擎越來越成為人們生活中重要的一部分，找資料、查地圖、聽音樂，只有想不到的，沒有搜索不到的。
----搜索引擎的三個基本原理
----1．利用蜘蛛系統程序，自動訪問互聯網，並沿著任何網頁中的所有URL爬到其它網頁，重復這過程，並把爬過的所有網頁收集回來。
----2.由分析索引系統程序對收集回來的網頁進行分析，提取相關網頁信息，根據一定的相關度演算法進行大量復雜計算，得到每一個網頁針對頁面內容中及超鏈中每一個關鍵詞的相關度（或重要性），然後用這些相關信息建立網頁索引資料庫。
----3.當用戶輸入關鍵詞搜索後，由搜索系統程序從網頁索引資料庫中找到符合該關鍵詞的所有相關網頁。相關度數值排序，相關度越高，排名越靠前。最後，由頁面生成系統將搜索結果的鏈接地址和頁面內容摘要等內容組織起來返回給用戶。
----說到這里，你可能對搜索引擎和網路蜘蛛有了一個初步的了解了吧！
3、網路蜘蛛的工作原理
----對於搜索引擎來說，要抓取互聯網上所有的網頁幾乎是不可能的，從目前公布的數據來看，容量最大的搜索引擎也不過是抓取了整個網頁數量的百分之四十左右。這 其中的原因一方面是抓取技術的瓶頸，無法遍歷所有的網頁，有許多網頁無法從其它網頁的鏈接中找到；另一個原因是存儲技術和處理技術的問題，如果按照每個頁 面的平均大小為20K計算（包含圖片），100億網頁的容量是100×2000G位元組，即使能夠存儲，下載也存在問題（按照一台機器每秒下載20K計算， 需要340台機器不停的下載一年時間，才能把所有網頁下載完畢）。同時，由於數據量太大，在提供搜索時也會有效率方面的影響。因此，許多搜索引擎的網路蜘 蛛只是抓取那些重要的網頁，而在抓取的時候評價重要性主要的依據是某個網頁的鏈接深度。
----在抓取網頁的時候，網路蜘蛛一般有兩種策略：廣度優先和深度優先（如下圖所示）。
----廣度優先是指網路蜘蛛會先抓取起始網頁中鏈接的所有網頁，然後再選擇其中 的一個鏈接網頁，繼續抓取在此網頁中鏈接的所有網頁。這是最常用的方式，因為這個方法可以讓網路蜘蛛並行處理，提高其抓取速度。深度優先是指網路蜘蛛會從 起始頁開始，一個鏈接一個鏈接跟蹤下去，處理完這條線路之後再轉入下一個起始頁，繼續跟蹤鏈接。這個方法有個優點是網路蜘蛛在設計的時候比較容易。兩種策 略的區別，下圖的說明會更加明確。
----由於不可能抓取所有的網頁，有些網路蜘蛛對一些不太重要的網站，設置了訪問的層數。例如，在上圖中，A為起始網頁，屬於0層，B、C、D、E、F屬於第1 層，G、H屬於第2層，I屬於第3層。如果網路蜘蛛設置的訪問層數為2的話，網頁I是不會被訪問到的。這也讓有些網站上一部分網頁能夠在搜索引擎上搜索 到，另外一部分不能被搜索到。對於網站設計者來說，扁平化的網站結構設計有助於搜索引擎抓取其更多的網頁。
----網路蜘蛛在訪問網站網頁的時候，經常會遇到加密數據和網頁許可權的問題，有些網頁是需要會員許可權才能訪問。當然，網站的所有者可以通過協議讓網路蜘蛛不去抓 取（下小節會介紹），但對於一些出售報告的網站，他們希望搜索引擎能搜索到他們的報告，但又不能完全免費的讓搜索者查看，這樣就需要給網路蜘蛛提供相應的 用戶名和密碼。網路蜘蛛可以通過所給的許可權對這些網頁進行網頁抓取，從而提供搜索。而當搜索者點擊查看該網頁的時候，同樣需要搜索者提供相應的許可權驗證。
----每個網路蜘蛛都有自己的名字，在抓取網頁的時候，都會向網站標明自己的身份。網路蜘蛛在抓取網頁的時候會發送一個請求，這個請求中就有一個欄位為User －agent，用於標識此網路蜘蛛的身份。例如Google網路蜘蛛的標識為GoogleBot，Bai網路蜘蛛的標識為BaiDuSpider， Yahoo網路蜘蛛的標識為Inktomi Slurp。如果在網站上有訪問日誌記錄，網站管理員就能知道，哪些搜索引擎的網路蜘蛛過來過，什麼時候過來的，以及讀了多少數據等等。如果網站管理員發 現某個蜘蛛有問題，就通過其標識來和其所有者聯系。
----網路蜘蛛進入一個網站，一般會訪問一個特殊的文本文件Robots.txt，這個文件一般放在網站伺服器的根目錄下，如：http://www.blogchina.com/robots.txt。 網站管理員可以通過robots.txt來定義哪些目錄網路蜘蛛不能訪問，或者哪些目錄對於某些特定的網路蜘蛛不能訪問。例如有些網站的可執行文件目錄和 臨時文件目錄不希望被搜索引擎搜索到，那麼網站管理員就可以把這些目錄定義為拒絕訪問目錄。Robots.txt語法很簡單，例如如果對目錄沒有任何限 制，可以用以下兩行來描述： User-agent: *
Disallow:
----當然，Robots.txt只是一個協議，如果網路蜘蛛的設計者不遵循這個協議，網站管理員也無法阻止網路蜘蛛對於某些頁面的訪問，但一般的網路蜘蛛都會遵循這些協議，而且網站管理員還可以通過其它方式來拒絕網路蜘蛛對某些網頁的抓取。
---- 網路蜘蛛在下載網頁的時候，會去識別網頁的HTML代碼，在其代碼的部分，會有META標識。通過這些標識，可以告訴網路蜘蛛本網頁是否需要被抓取，還可 以告訴網路蜘蛛本網頁中的鏈接是否需要被繼續跟蹤。例如：表示本網頁不需要被抓取，但是網頁內的鏈接需要被跟蹤。
---- 搜索引擎建立網頁索引，處理的對象是文本文件。對於網路蜘蛛來說，抓取下來網頁包括各種格式，包括html、圖片、doc、pdf、多媒體、動態網頁及其 它格式等。這些文件抓取下來後，需要把這些文件中的文本信息提取出來。准確提取這些文檔的信息，一方面對搜索引擎的搜索准確性有重要作用，另一方面對於網 絡蜘蛛正確跟蹤其它鏈接有一定影響。對於doc、pdf等文檔，這種由專業廠商提供的軟體生成的文檔，廠商都會提供相應的文本提取介面。網路蜘蛛只需要調用這些插件的介面，就可以輕松的提取文檔中的文本信息和文件其它相關的信息。但HTML等文檔不一樣，HTML有一套自己的語法，通過不同的命令標識符來表示不同的字體、顏色、位置等版式，如：、、等， 提取文本信息時需要把這些標識符都過濾掉。過濾標識符並非難事，因為這些標識符都有一定的規則，只要按照不同的標識符取得相應的信息即可。但在識別這些信 息的時候，需要同步記錄許多版式信息，例如文字的字體大小、是否是標題、是否是加粗顯示、是否是頁面的關鍵詞等，這些信息有助於計算單詞在網頁中的重要程 度。同時，對於HTML網頁來說，除了標題和正文以外，會有許多廣告鏈接以及公共的頻道鏈接，這些鏈接和文本正文一點關系也沒有，在提取網頁內容的時候， 也需要過濾這些無用的鏈接。例如某個網站有「產品介紹」頻道，因為導航條在網站內每個網頁都有，若不過濾導航條鏈接，在搜索「產品介紹」的時候，則網站內 每個網頁都會搜索到，無疑會帶來大量垃圾信息。過濾這些無效鏈接需要統計大量的網頁結構規律，抽取一些共性，統一過濾；對於一些重要而結果特殊的網站，還 需要個別處理。這就需要網路蜘蛛的設計有一定的擴展性。
---- 對於多媒體、圖片等文件，一般是通過鏈接的錨文本（即，鏈接文本）和相關的文件注釋來判斷這些文件的內容。例如有一個鏈接文字為「張曼玉照片」，其鏈接指 向一張bmp格式的圖片，那麼網路蜘蛛就知道這張圖片的內容是「張曼玉的照片」。這樣，在搜索「張曼玉」和「照片」的時候都能讓搜索引擎找到這張圖片。另 外，許多多媒體文件中有文件屬性，考慮這些屬性也可以更好的了解文件的內容。
---- 動態網頁一直是網路蜘蛛面臨的難題。所謂動態網頁，是相對於靜態網頁而言，是由程序自動生成的頁面，這樣的好處是可以快速統一更改網頁風格，也可以減少網 頁所佔伺服器的空間，但同樣給網路蜘蛛的抓取帶來一些麻煩。由於開發語言不斷的增多，動態網頁的類型也越來越多，如：asp、jsp、php等。這些類型 的網頁對於網路蜘蛛來說，可能還稍微容易一些。網路蜘蛛比較難於處理的是一些腳本語言（如VBScript和JavaScript）生成的網頁，如果要完 善的處理好這些網頁，網路蜘蛛需要有自己的腳本解釋程序。對於許多數據是放在資料庫的網站，需要通過本網站的資料庫搜索才能獲得信息，這些給網路蜘蛛的抓 取帶來很大的困難。對於這類網站，如果網站設計者希望這些數據能被搜索引擎搜索，則需要提供一種可以遍歷整個資料庫內容的方法。
對於網頁內容的提取，一直是網路蜘蛛中重要的技術。整個系統一般採用插件的形式，通過一個插件管理服務程序，遇到不同格式的網頁採用不同的插件處理。這種 方式的好處在於擴充性好，以後每發現一種新的類型，就可以把其處理方式做成一個插件補充到插件管理服務程序之中。
---- 由於網站的內容經常在變化，因此網路蜘蛛也需不斷的更新其抓取網頁的內容，這就需要網路蜘蛛按照一定的周期去掃描網站，查看哪些頁面是需要更新的頁面，哪些頁面是新增頁面，哪些頁面是已經過期的死鏈接。
---- 搜索引擎的更新周期對搜索引擎搜索的查全率有很大影響。如果更新周期太長，則總會有一部分新生成的網頁搜索不到；周期過短，技術實現會有一定難度，而且會 對帶寬、伺服器的資源都有浪費。搜索引擎的網路蜘蛛並不是所有的網站都採用同一個周期進行更新，對於一些重要的更新量大的網站，更新的周期短，如有些新聞 網站，幾個小時就更新一次；相反對於一些不重要的網站，更新的周期就長，可能一兩個月才更新一次。
---- 一般來說，網路蜘蛛在更新網站內容的時候，不用把網站網頁重新抓取一遍，對於大部分的網頁，只需要判斷網頁的屬性（主要是日期），把得到的屬性和上次抓取的屬性相比較，如果一樣則不用更新。
---- 現在大家對網路蜘蛛的工作原理有了初步的了解了吧，了解後就要在以後的網站製作中考慮蜘蛛的爬行規律，比如製作網站地圖就很重要，好了，如果你有更好的見解，請到這里發表，火鳥非常願意與你交流，共同研究網站製作技巧，盡量將自己的網站製作的符合標准，符合用戶的習慣！
現代搜索引擎對網頁的重要性一般用PR值來量化。
一般說來，PR值越高，反映在在搜索結果中的排名越靠前（重要新越高），當前有很多人通過很多方式來提高自己網站的PR值，除網站內部的優化外，大多數人採用的是外部鏈接。
如下：
PR(A) = (1-d) + d(PR(t1)/C(t1) + ... + PR(tn)/C(tn))
其中PR(A)表示的是從一個外部鏈接站點t1上，依據Pagerank?系統給你的網站所增加的PR分值；PR(t1)表示該外部鏈接網站本身的PR分值；C(t1)則表示該外部鏈接站點所擁有的外部鏈接數量。大家要謹記：一個網站的投票權值只有該網站PR分值的0.85，而且這個0.85的權值平均分配給其鏈接的每個外部網站。
設想一個名為akamarketing.com的網站，被鏈接至PR值為4，外部鏈接數為9的網站XYZ.COM，則計算公式如下：
PR(AKA) = (1-0.85) + 0.85*(4/10)
PR(AKA) = 0.15 + 0.85*(0.4)
PR(AKA) = 0.15 + 0.34
PR(AKA) = 0.49
也就是說，如果我的網站獲得一個PR值為4，外部鏈接數為9的網站的鏈接，最後我的網站將獲得0.49的PR分值。
再讓我們看看如果我的網站獲得的是一個PR分值為8，外部鏈接數為16的網站的鏈接，那麼我將獲得的PR分值將是：
PR(AKA) = (1-0.85) + 0.85*(8/16)
PR(AKA) = 0.15 + 0.85(0.5)
PR(AKA) = 0.15 + 0.425
PR(AKA) = 0.575
上述兩個例子表明，外部鏈接站點的PR值固然重要，該站點的外部鏈接數也是一個需要考慮的重要因素。