通用的內容分析工具:Apache Tika
項目介紹
Tika是一個內容分析工具,自帶全面的parser工具類,能解析基本所有常見格式的文件,得到文件的metadata,content等內容,返回格式化信息。總的來說可以作為一個通用的解析工具。特別對于搜索引擎的數據抓去和處理步驟有重要意義。
Tika是一個目的明確,使用簡單的apache的開源項目。下圖是Tika誕生的一個歷史過程。
Tika項目之初來源于Nutch項目(大家應該都不陌生),現在是Lucene的子項目,所以也是來源于搜索 引擎。其實Nutch這個項目的開發過程中,孕育了不少東西,應該都歸功于Doug Cutting。我個人也是覺得這件事情很贊,要搞Nutch這樣一個通用的搜索引擎,包括了全文索引和Web爬蟲兩大塊內容,在開發過程中逐漸誕生出一 些核心的周邊產品,再孕育成子項目,包括hadoop,Lucene,Tika等等這些現代很主流,使用人群很廣的通用項目,帶給了IT界不少便利。我個 人對此非常憧憬,覺得甚是美好。
從源碼看功能
通過src里幾個包和主要類,看Tika能干什么。跳過core包,tika-parsers展示了Tika能處理的文件類別和內容,
音頻,圖片,文本,各種格式的文件,tika都有對應的parser類來處理。而且Tika提供給了一些parser接口供擴展。tika-bundle提供Tika結合OSGi容器的能力。tika-app而則是一個在代碼外直接使用Tika的jar包,可以在官網直接下載使用,提供gui和cmd使用方式,直觀地體驗這款產品。下面我會截圖展示。
Tika架構
下圖解釋了Tika的架構以及關鍵零部件的主要設計目標:由一個解析器框架(中間),MIME檢測機制(右側),語言檢測(左側),和一個 facade組件(中間部分的原理圖)聯系所有組件。外部接口,包括命令行和圖形界面(下一節我會簡單介紹),允許用戶集成到腳本或者應用程序,并與 Tika直接交互。在整個結構中,Tika的體系結構是可擴展的,新的解析器可以輕松地添加和刪除。
Tika使用
直接使用Tika,只要java -jar tika-app-1.2 --gui即可啟動,你可以把打開本地文件或者添加你要解析的url地址,甚至直接把各種文件拖入Tika,查看Tika的解析結果。大家可以直接下載jar包體驗下,非常方便。在View內可以選擇你想查看的內容(Metadata, text等)。Tika對圖片的處理主要是提供一些元信息,并不能分析出圖片內的內容,所以圖片形式的pdf文件自然是不能查看text信息的。
如果是用命令行,類似的語法是這樣的: