淺析搜索引擎的原理及發展前景

淺析搜索引擎的原理及發展前景

淺析搜索引擎的原理及發展前景 文章簡述搜索引擎定義和服務方式，及搜索引擎的發展、工作原理和性能指標，分析了搜索引擎面臨的挑戰，并對特色搜索引擎進行了簡要的闡述。
搜索引擎；信息檢索

信息技術的不斷發展，特別是互聯網應用的迅速普及，深入到了人們生活的各個方面，改變了人們生活方式和思維方式，方便了全球信息資源共享。全球目前的網頁超過100億，每天新增加數百萬網頁，電子信息爆炸似的豐富起來。要在如此浩瀚的海洋里尋找信息，就像“大海撈針”一樣。能有一種工具使我們可以在不到1秒鐘的時間就迅速找到我們想要的內容嗎？答案是“有”，這就是搜索引擎。今天，搜索引擎已成為人們在網絡信息海洋中自如沖浪必不可少的利器。
搜索引擎（Search Engines）就是指在WWW（World Wide Web）環境中能夠響應用戶提交的搜索請求，返回相應的查詢結果信息的技術和系統，是互聯網上的可以查詢網站或網頁信息的工具。它包括信息搜集、信息整理和用戶查詢三部分。搜索引擎的服務方式分為兩種：目錄服務和關鍵字檢索服務。目錄服務是由分類專家將網絡信息按照主題分成若干個大類，用戶可以根據分類清晰地找到自己所需要的內容。關鍵字檢索服務可以查找包含一個或多個特定關鍵字或詞組的WWW站點。搜索引擎是互聯網的第二大核心技術，涉及到信息檢索、人工智能、計算機網絡、分布式處理、數據庫、數據挖掘、數字圖書館、自然語言處理等多領域的理論和技術，所以具有綜合性和挑戰性。
1搜索引擎的發展
1990年以前，沒有任何人能實現搜索互聯網的功能。互聯網發展早期，信息量較少，互聯網用戶多為專業人士，那時查找信息要相對容易。伴隨互聯網爆炸性的發展，普通網絡用戶想找到所需的資料簡直如同大海撈針，這時為滿足大眾信息檢索需求的搜索引擎便應運而生了。所有搜索引擎的祖先，都可以追溯到1990年由蒙特利爾McGill大學學生Alan Emtage、Peter Deutsch、Bill Wheelan發明的Archie(Archie FAQ)。雖然當時World Wide Web還未出現，但因為當時網絡的主要用途是傳輸文件，網絡中的文件傳輸還是相當頻繁。由于大量的文件散布在各個分散的FTP主機中，查詢起來非常不便，因此Alan Emtage想到了開發一個可以以文件名查找文件的系統，于是便有了Archie。
1993年，美國內華達System Computing Services大學開發了一個與Archie非常相似的搜索工具，這個搜索工具既能夠檢索文件也能夠檢索網頁。
1994年4月，斯坦福（Stanford）大學的兩名博士生，David Filo和美籍華人楊致遠（Gerry Yang）共同創辦了超級目錄索引Yahoo，并成功地使搜索引擎的概念深入人心。從此搜索引擎進入了高速發展時期。
1998 年，斯坦福大學的兩位博士生 Larry Page 和 Sergey Brin 開發出了現在世界上最大的搜索引擎——Google。通過對 20 多億網頁進行整理，Google 可為世界各地的用戶提供適需的搜索結果，而且搜索時間通常不到半秒。現在，Google 每天需要為世界各國用戶提供 1.5 億次查詢服務。
1997年10月29日，北大天網正式在CERNET上向廣大Internet用戶提供Web信息導航服務，它是由北大計算機系網絡與分布式系統研究室開發的國家“九五”重點科技攻關項目“中文編碼和分布式中英文信息發現”的研究成果，受到學術界廣泛好評。
2000年1月，兩位北大校友，前Infoseek資深工程師李彥宏與加州大學伯克利分校博士后徐勇在北京中關村創立了百度（Baidu）公司。歷經5年的高速發展后，在近兩年時間里，百度高居全球網站流量前八名的位置，已經成為全球十大網站之一。百度每天接受著超過一億人次來自各個方面的內容檢索請求，中國9400萬網民幾乎每天使用1次百度。“有問題百度一下”已經成為中國網絡流行語之一。
2002年，中國搜索（原慧聰搜索）正式進入中文搜索引擎市場。在一年多的時間里，就發展為全球著名的中文搜索引擎服務商，為新浪、搜狐、網易、TOM等知名門戶網站提供搜索引擎技術。慧聰搜索引擎的優勢是從人工審核網站信息源和設置禁查詞兩個方面入手，有效地過濾了不良信息，降低了垃圾信息的含量。在互聯網實時新聞搜索方面，慧聰也實現了網絡新聞的實時檢索。
2 搜索引擎的工作原理
簡單的說，搜索引擎是通過從互聯網上提取的各個網站的信息來建立數據庫，檢索與用戶查詢條件匹配的相關記錄，然后按一定的排列順序將結果返回給用戶。
根據搜索引擎提取數據的方法，可將搜索引擎系統可以分為三大類：
2.1目錄式搜索引擎：是一種網站級搜索引擎。目錄式搜索引擎由分類專家將網絡信息按照主題分成若干個大類，每個大類再分為若干個小類，依次細分，一般的搜索引擎分類體系有五六層，有的甚至十幾層。先由程序自動搜集信息，然后由編輯員查看信息，人工形成信息摘要，提供目錄瀏覽服務和直接檢索服務。由于目錄式搜索引擎的信息分類和信息搜集有人的參與，因此其搜索的準確度是相當高的，缺點是需要人工介入、維護量大、信息量少、信息更新不夠及時。Yahoo就是這類搜索引擎的代表。
2.2機器人搜索引擎：Robot（機器人）一詞大家并不陌生，Computer Robot是指某個能以人類無法達到的速度不斷重復執行某項任務的自動程序。由于專門用于檢索信息的Robot程序象蜘蛛(spider)一樣在網絡間爬來爬去，因此，搜索引擎的Robot程序被稱為spider程序。搜索引擎主動派出稱為蜘蛛（Spider）的機器人程序定期搜索（比如Google一般是28天），對一定IP地址范圍內的互聯網站進行檢索，一旦發現新的網站，它會自動提取網站的信息和網址加入自己的數據庫。該類搜索引擎的優點是信息量大、更新及時、毋需人工干預，缺點是返回信息過多，有很多無關信息，用戶必須從結果中進行篩選。Google、北大天網、百度（Baidu）就是這類搜索引擎的代表。
2.3元搜索引擎：這類搜索引擎沒有自己的數據，而是將用戶的查詢請求同時向多個預先選定的獨立搜索引擎遞交，將返回的結果進行重復排除、重新排序等處理后，作為自己的結果返回給用戶。優點是返回結果的信息量更大、更全，缺點是用戶需要做更多的篩選。第一個元搜索引擎，是美國華盛頓大學碩士生Eric Selberg 和 Oren Etzioni 開發的 Metacrawler。元搜索引擎的搜索效果始終不理想，所以沒有哪個元搜索引擎有過強勢地位。ByteSearch（http://）、Mamma（http://）、Profusion（http://）就是這類搜索引擎的代表。
3 搜索引擎的性能指標
搜索引擎的目標就是在非常短的時間內搜索的信息全面并且準確。傳統信息檢索系統的性能參數——召回率和精度同樣也可以衡量一個搜索引擎的性能。
召回率是檢索出的相關文檔數和文檔庫中所有的相關文檔數的比率，衡量的是檢索系統（搜索引擎）的查全率；精度是檢索出的相關文檔數與檢索出的文檔總數的比率，衡量的是檢索系統（搜索引擎）的查準率。對于一個檢索系統來講，召回率和精度不可能兩全其美：召回率高時，精度低；精度高時，召回率低。因為沒有一個搜索引擎系統能夠搜集到所有的WEB網頁，所以召回率很難計算。對于網民來說，互聯網上的信息不是不夠，而是“過剩”，如何精確查找到信息是大家所關心的問題。因此，目前的搜索引擎系統都非常關心精度。
4 搜索引擎面臨的挑戰
目前搜索引擎是網絡上被使用頻率最高的服務項目之一。隨著Internet的強勢發展，網上龐大的數字化信息和人們獲取所需信息能力之間的矛盾日益突出。國際數據公司（IDC）曾公布的一份報告表明，被大肆宣傳為“使用簡便易用，搜索結果豐富”的搜索引擎技術正在被信息更集中的局域網取代，因為大多數搜索系統的表現與用戶的期望值相差太大，諸如數據量高速增長的視頻、音頻等多媒體信息的檢索，現在仍然是無法突破的難題。搜索引擎越來越不能滿足挑剔的網民們的各種信息需求，這表現在以下幾個方面：
收集的網頁數量和其數據庫的更新速度存在著不可調和的矛盾。用戶經常無法打開查詢的結果。網絡信息時刻變動，實時搜索幾乎不可能。就是剛剛瀏覽過的網頁，也隨時都有更新、過期、刪除的可能。網絡信息收集與整理是搜索引擎工作的重要一部分。搜索引擎需要定期不斷地訪問網絡資源。目前網絡帶寬不足，網絡速度不夠理想，遍歷如此龐雜的網絡時間花費是非常龐大的，這就是不能實時搜索的原因。

下一頁

【淺析搜索引擎的原理及發展前景】相關文章：

淺析數據通信的發展前景03-22

淺析鋼結構防火涂料防火原理03-19

鋼結構防火涂料防火原理淺析03-04

淺析旋挖樁工藝在蘇州地區的應用和發展前景03-18

淺析運用藝術學原理談呼吸在歌唱中的作用12-05

淺析高校《國際貿易原理課》雙語教學模式探析03-18

搜索引擎技術及趨勢11-21

淺析基于應用型人才培養的單片機原理教學改革研究03-01

CPM搜索引擎的設計與實現03-08