Kafka 0.7.2-incubating 發布,高吞吐率的分布式消息系統
kafka是一種高吞吐量的分布式發布訂閱消息系統。
kafka的一些設計理念:
1. publish/subscribe,支持多consumer group,queue/topic分組。
2. persist messgae 磁盤io一次,用文件順序存儲+操作系統pagecache。支持TB級別
3. 支持consumer的狀態,可以通過offset 來重新讀消息。
4. producer-broker未進行負載均衡,broker-consumer進行了負載均衡。
5. 采用push-pull。
kafka的下特性:
- 通過O(1)的磁盤數據結構提供消息的持久化,這種結構對于即使數以TB的消息存儲也能夠保持長時間的穩定性能。
- 高吞吐量:即使是非常普通的硬件kafka也可以支持每秒數十萬的消息。
- 支持通過kafka服務器和消費機集群來分區消息。
- 支持Hadoop并行數據加載。
http://incubator.apache.org/kafka/index.html
本文由用戶 jopen 自行上傳分享,僅供網友學習交流。所有權歸原作者,若您的權利被侵害,請聯系管理員。
轉載本站原創文章,請注明出處,并保留原始鏈接、圖片水印。
本站是一個以用戶分享為主的開源技術平臺,歡迎各類分享!