分布式內存文件系統,Tachyon 0.8發布

jopen 9年前發布 | 6K 次閱讀 Tachyon

Tachyon 0.8發布。最重大的新增功能包括支持同時mount多個不同的底層存儲系統,并提供統一訪問接口。比如將一個HDFS集群掛載在tachyon目錄 /my_hdfs/, 再將另一個S3系統掛載在tachyon目錄/my_s3/,而客戶可以通過Tachyon統一訪問不同子系統中的文件.更多功能盡在:http://tachyon-project.org/release/


Tachyon
是一個分布式內存文件系統,可以在集群里以訪問內存的速度來訪問存在tachyon里的文件。把 Tachyon是架構在最底層的分布式文件存儲和上層的各種計算框架之間的一種中間件。主要職責是將那些不需要落地到DFS里的文件,落地到分布式內存文件系統中,來達到共享內存,從而提高效率。同時可以減少內存冗余,GC時間等。
20140808145905388.png

Tachyon架構 

       Tachyon的架構是傳統的Master—slave架構,這里和Hadoop類似,TachyonMaster里WorkflowManager是 Master進程,因為是為了防止單點問題,通過Zookeeper做了HA,可以部署多臺Standby Master。Slave是由Worker Daemon和Ramdisk構成。這里個人理解只有Worker Daemon是基于JVM的,Ramdisk是一個off heap memory。Master和Worker直接的通訊協議是Thrift。
 本文由用戶 jopen 自行上傳分享,僅供網友學習交流。所有權歸原作者,若您的權利被侵害,請聯系管理員。
 轉載本站原創文章,請注明出處,并保留原始鏈接、圖片水印。
 本站是一個以用戶分享為主的開源技術平臺,歡迎各類分享!