Kafka 0.7.2-incubating 發布,高吞吐率的分布式消息系統

jopen 12年前發布 | 13K 次閱讀 Kafka

kafka是一種高吞吐量的分布式發布訂閱消息系統。

kafka的一些設計理念:

1. publish/subscribe,支持多consumer group,queue/topic分組。

2. persist messgae 磁盤io一次,用文件順序存儲+操作系統pagecache。支持TB級別
3. 支持consumer的狀態,可以通過offset 來重新讀消息。
4. producer-broker未進行負載均衡,broker-consumer進行了負載均衡。
5. 采用push-pull。

kafka的下特性:

  • 通過O(1)的磁盤數據結構提供消息的持久化,這種結構對于即使數以TB的消息存儲也能夠保持長時間的穩定性能。
  • 高吞吐量:即使是非常普通的硬件kafka也可以支持每秒數十萬的消息。
  • 支持通過kafka服務器和消費機集群來分區消息。
  • 支持Hadoop并行數據加載。

http://incubator.apache.org/kafka/index.html


 本文由用戶 jopen 自行上傳分享,僅供網友學習交流。所有權歸原作者,若您的權利被侵害,請聯系管理員。
 轉載本站原創文章,請注明出處,并保留原始鏈接、圖片水印。
 本站是一個以用戶分享為主的開源技術平臺,歡迎各類分享!