MongoDB數據文件內部結構

SadBeer 8年前發布 | 10K 次閱讀 MongoDB NoSQL數據庫

有人在Quora上提問:MongoDB數據文件內部的組織結構是什么樣的。隨后10gen的工程師Jared Rosoff出來做了簡短的回答。

每一個數據庫都有自己獨立的文件。如果你開啟了directoryperdb選項,那你每個庫的文件會單獨放在一個文件夾里。

數據庫文件在內部會被切分成單個的塊,每個塊只保存一個名字空間的數據。在MongoDB中,名字空間用于區分不同的存儲類別。比如每個collection有一個獨立的名字空間,每個索引也有自己的名字空間。

在一個塊中,會保存多條記錄,每條記錄是BSON格式的,記錄與記錄之間通過雙向鏈表進行連接。

索引數據也存在數據文件中,不過索引是被組織成B-Tree結構,而不是雙向鏈表。

對每個數據庫,有一個命名空間文件,用于保存每個名字空間對應的元數據。我們通過查詢這些元數據來找到對應的名字空間的存儲塊位置。

如果你開啟了jorunaling日志,那么還會有一些文件存儲著你所有的操作記錄。

下面圖片摘自10gen工程師Mathias Stearn在MongoSV2011大會上的發言稿,手繪的數據文件結構。

1.每個數據庫有相應的數據文件和命名空間文件

2.數據文件從16MB開始,新的數據文件比上一個文件大一倍,最大為2GB

3.文件使用MMAP進行內存映射,會將所有數據文件映射到內存中,但是只是虛擬內存,只有訪問到這塊數據時才會交換到物理內存。

4.MongoDB的數據文件映射到內存表中的位置

5.使用32位機器的話,內存地址最大可以標識4GB內存

6.但是在32位機器上,4GB內存會有1GB被內核戰勝,大約0.5GB會用于mongod進程的stack空間,只剩下大約2.5GB可用于映射數據文件。

7.在64位機器上則最多可以表示128TB的空間

8.每個數據文件會被分成一個一個的數據塊,塊與塊之間用雙向鏈表連接

9.在名字空間文件中,保存了每個名字空間的存儲信息元數據,包括其大小,塊數,第一塊位置,最后一塊位置,被刪除的塊的鏈表以及索引信息

10.這些位置通過DiskLoc數據結構進行存儲,存儲了數據文件編號和塊在文件中的位置

MongoDB數據文件內部結構

11.對每一個塊來說,其頭部包含了一些塊的元數據,比如自己的位置,上一個和下一個塊的位置以及塊中第一條和最后一條記錄的位置指針。剩下的部分用于存儲具體的數據,具體數據之間也是通過雙向鏈接來進行連接。

12.下面是B-Tree的存儲結構和工作原理

來自: http://www.uml.org.cn/sjjm/201604142.asp

 本文由用戶 SadBeer 自行上傳分享,僅供網友學習交流。所有權歸原作者,若您的權利被侵害,請聯系管理員。
 轉載本站原創文章,請注明出處,并保留原始鏈接、圖片水印。
 本站是一個以用戶分享為主的開源技術平臺,歡迎各類分享!