C#編寫的多線程網絡爬蟲:NCrawler

jopen 12年前發布 | 56K 次閱讀 爬蟲 網絡爬蟲

NCrawler是一個簡單并且非常高效的多線程網絡爬蟲。采用C#開發,基于管道的處理器。它包含HTML, Text, PDF, 和 IFilter 文檔的處理器并語言檢測(Google)。能夠很方便添加管道步驟來抽取、使用和修改信息。

項目主頁:http://www.baiduhome.net/lib/view/home/1349860634322

 本文由用戶 jopen 自行上傳分享,僅供網友學習交流。所有權歸原作者,若您的權利被侵害,請聯系管理員。
 轉載本站原創文章,請注明出處,并保留原始鏈接、圖片水印。
 本站是一個以用戶分享為主的開源技術平臺,歡迎各類分享!