爬蟲開源:webBee-為樂趣而生的web垂直爬蟲框架

XavNava 7年前發布 | 68K 次閱讀 Java 網絡爬蟲

webBee 為樂趣而爬

  • webBee 基于 jdk8 是一個持續成長的 垂直爬蟲框架 項目

  • webBee 遵循 MIT 開源協議

  • webBee 是一個不錯的java進階項目

  • 歡迎大家貢獻代碼,如果覺得這個項目不錯,請為它 點贊

演示站點

設計初衷

  • 設計簡潔,面向接口
  • 配置簡單,明了
  • 一次配置,自動匹配

涉及技術棧

  • httpcomponents
  • jsoup
  • redis
  • 代理
  • 多線程

即將完善的內容

  • 分布式爬取
  • 代理接口
  • 通過配置智能尋找目標 url
  • 圖片、視頻的處理
  • 可對 熊貓tv 、 斗魚tv 等彈幕網站彈幕監聽分析
  • 制作一個炫酷的官網實例

開源協議

MIT

 

項目主頁:http://www.baiduhome.net/lib/view/home/1492743208049

 

 本文由用戶 XavNava 自行上傳分享,僅供網友學習交流。所有權歸原作者,若您的權利被侵害,請聯系管理員。
 轉載本站原創文章,請注明出處,并保留原始鏈接、圖片水印。
 本站是一個以用戶分享為主的開源技術平臺,歡迎各類分享!