分布式全文檢索系統：SolrCloud

Lucene是一個Java語言編寫的利用倒排原理實現的文本檢索類庫。Solr是以Lucene為基礎實現的文本檢索應用服務。

SolrCloud是Solr4.0版本開發出的具有開創意義的基于Solr和Zookeeper的分布式搜索方案，或者可以 說，SolrCloud是Solr的一種部署方式。Solr可以以多種方式部署，例如單機方式，多機Master-Slaver方式，這些方式部署的 Solr不具有SolrCloud的特色功能。

特色

SolrCloud有幾個特色功能：

1. 集中式的配置信息

   使用ZK進行集中配置。啟動時可以指定把Solr的相關配置文件上傳Zookeeper，多機器共用。這些ZK中的配置不會再拿到本地緩存，Solr直接讀取ZK中的配置信息。配置文件的變動，所有機器都可以感知到。

   另外，Solr的一些任務也是通過ZK作為媒介發布的。目的是為了容錯。接收到任務，但在執行任務時崩潰的機器，在重啟后，或者集群選出候選者時，可以再次執行這個未完成的任務。

2. 自動容錯

   SolrCloud對索引分片，并對每個分片創建多個Replication。每個Replication都可以對外提供服務。一個Replication掛掉不會影響索引服務。

   更強大的是，它還能自動的在其它機器上幫你把失敗機器上的索引Replication重建并投入使用。

3. 近實時搜索

   立即推送式的replication（也支持慢推送）。可以在秒內檢索到新加入索引。

4. 查詢時自動負載均衡

   SolrCloud索引的多個Replication可以分布在多臺機器上，均衡查詢壓力。如果查詢壓力大，可以通過擴展機器，增加Replication來減緩。

5. 自動分發的索引和索引分片

   發送文檔到任何節點，它都會轉發到正確節點。

6. 事務日志

   事務日志確保更新無丟失，即使文檔沒有索引到磁盤。

其它值得一提的功能有：

1. 索引存儲在HDFS上

   索引的大小通常在G和幾十G，上百G的很少，這樣的功能或許很難實用。但是，如果你有上億數據來建索引的話，也是可以考慮一下的。我覺得這個功能最大的好處或許就是和下面這個“通過MR批量創建索引”聯合實用。

2. 通過MR批量創建索引

   有了這個功能，你還擔心創建索引慢嗎？

3. 強大的RESTful API

   通常你能想到的管理功能，都可以通過此API方式調用。這樣寫一些維護和管理腳本就方便多了。

4. 優秀的管理界面

   主要信息一目了然；可以清晰的以圖形化方式看到SolrCloud的部署分布；當然還有不可或缺的Debug功能。

概念

• Collection：在SolrCloud集群中邏輯意義上的完整的索引。它常常被劃分為一個或多個 Shard，它們使用相同的Config Set。如果Shard數超過一個，它就是分布式索引，SolrCloud讓你通過Collection名稱引用它，而不需要關心分布式檢索時需要使用的 和Shard相關參數。

• Config Set: Solr Core提供服務必須的一組配置文件。每個config set有一個名字。最小需要包括solrconfig.xml (SolrConfigXml)和schema.xml (SchemaXml)，除此之外，依據這兩個文件的配置內容，可能還需要包含其它文件。它存儲在Zookeeper中。Config sets可以重新上傳或者使用upconfig命令更新，使用Solr的啟動參數bootstrap_confdir指定可以初始化或更新它。

• Core: 也就是Solr Core，一個Solr中包含一個或者多個Solr Core，每個Solr Core可以獨立提供索引和查詢功能，每個Solr Core對應一個索引或者Collection的Shard，Solr Core的提出是為了增加管理靈活性和共用資源。在SolrCloud中有個不同點是它使用的配置是在Zookeeper中的，傳統的Solr core的配置文件是在磁盤上的配置目錄中。

• Leader: 贏得選舉的Shard replicas。每個Shard有多個Replicas，這幾個Replicas需要選舉來確定一個Leader。選舉可以發生在任何時間，但是通常他 們僅在某個Solr實例發生故障時才會觸發。當索引documents時，SolrCloud會傳遞它們到此Shard對應的leader，leader 再分發它們到全部Shard的replicas。

• Replica: Shard的一個拷貝。每個Replica存在于Solr的一個Core中。一個命名為“test”的collection以numShards=1創 建，并且指定replicationFactor設置為2，這會產生2個replicas，也就是對應會有2個Core，每個在不同的機器或者Solr實 例。一個會被命名為test_shard1_replica1，另一個命名為test_shard1_replica2。它們中的一個會被選舉為 Leader。

• Shard: Collection的邏輯分片。每個Shard被化成一個或者多個replicas，通過選舉確定哪個是Leader。

• Zookeeper: Zookeeper提供分布式鎖功能，對SolrCloud是必須的。它處理Leader選舉。Solr可以以內嵌的Zookeeper運行，但是建議用獨立的，并且最好有3個以上的主機。

架構

• 索引（collection）的邏輯圖

• 索引和Solr實體對照圖

• 創建索引過程

來自：http://tech.uc.cn/?p=2387