Pholcus 爬蟲 v0.8.0,支持 HTML 風格動態規則

jopen 8年前發布 | 8K 次閱讀

Pholcus 爬蟲 v0.8.0,支持 HTML 風格動態規則

近日,Pholcus 升級 v0.8.0 版本了,最大的亮點就是:終于突破規則需要靜態編譯的局制,增加支持HTML風格的動態規則。以后交流分享規則變得更加方便,隨之而來將會是愈加完善的生態圈。

Pholcus 爬蟲 v0.8.0,支持 HTML 風格動態規則

以下是具體更新內容:

一、初步支持HTML風格的動態規則

二、添加配置文件,便于修改數據庫配置等信息

三、重新規劃軟件依賴文件目錄

├─pholcus 軟件

├─pholcus 依賴文件目錄
│  ├─pholcus.ini 配置文件
│  │
│  ├─proxy.lib 代理IP列表庫
│  │
│  ├─spider.lib 動態規則目錄
│  │  └─xxx.pholcus.html 動態規則文件
│  │
│  ├─phantomjs 程序文件
│  │
│  ├─logs 日志目錄
│  │
│  ├─history 歷史記錄目錄
│  │
└─└─cache 臨時緩存目錄


四、增強代理IP功能


五、增強狀態控制功能


六、為Spider結構體添加定時器


七、增強Request結構體序列化與反序列化的可靠性


八、Web界面的外部資源文件全部打包進軟件


九、更新下載器Surfer至0.9版本,性能更佳



來自: http://www.oschina.net//news/70039/pholcus-0-8-0

 本文由用戶 jopen 自行上傳分享,僅供網友學習交流。所有權歸原作者,若您的權利被侵害,請聯系管理員。
 轉載本站原創文章,請注明出處,并保留原始鏈接、圖片水印。
 本站是一個以用戶分享為主的開源技術平臺,歡迎各類分享!