PHP中文分詞擴展 SCWS
1、scws簡介
SCWS 是 Simple Chinese Word Segmentation 的首字母縮寫(即:簡易中文分詞系統)。
這是一套基于詞頻詞典的機械式中文分詞引擎,它能將一整段的中文文本基本正確地切分成詞。 詞是中文的最小語素單位,但在書寫時并不像英語會在詞之間用空格分開, 所以如何準確并快速分詞一直是中文分詞的攻關難點。
SCWS 采用純 C 語言開發,不依賴任何外部庫函數,可直接使用動態鏈接庫嵌入應用程序, 支持的中文編碼包括 GBK、UTF-8 等。此外還提供了 PHP 擴展模塊, 可在 PHP 中快速而方便地使用分詞功能。
分詞算法上并無太多創新成分,采用的是自己采集的詞頻詞典,并輔以一定的專有名稱,人名,地名, 數字年代等規則識別來達到基本分詞,經小范圍測試準確率在 90% ~ 95% 之間, 基本上能滿足一些小型搜索引擎、關鍵字提取等場合運用。
2、scws下載與安裝
scws支持windows平臺以及linux/unix平臺,本次簡單以windwos下安裝為例進行說明:
[1]下載php_scws.dll文件、XDB 詞典文件、規則集文件,具體可以參考網址:http://www.xunsearch.com/scws/download.php
[2]將php_scws.dll文件拷貝到php安裝路徑下。
[3]將XDB 詞典文件、規則集文件解壓到相應盤符,例如D:/ceshi
[4]修改php.ini,增加一下代碼:
extension = php_scws.dll scws.default.charset = gbk scws.default.fpath = "D:\ceshi\"
3、scws實現分詞的簡單案例
本文由用戶 jopen 自行上傳分享,僅供網友學習交流。所有權歸原作者,若您的權利被侵害,請聯系管理員。
轉載本站原創文章,請注明出處,并保留原始鏈接、圖片水印。
本站是一個以用戶分享為主的開源技術平臺,歡迎各類分享!