揭秘谷歌網絡基礎設施十年演變過程

jopen 9年前發布 | 6K 次閱讀 谷歌

揭秘谷歌網絡基礎設施十年演變過程

英文原文:How Google’s Networking Infrastructure Has Evolved Over The Last 10 Years

谷歌今天 宣布 ,它想要修復用戶家中的 Wi-Fi 網絡連接問題,但在公司內部,這家搜索巨頭很早以前便在解決遠比這 復雜 的網絡問題了。為了將構成谷歌數據中心的數十萬臺機器連接起來,你不能僅僅使用路由器和交換機這些最基本的工具,還要管理在服務器之間流動的所有數據。為此,谷歌一直在開發自己的硬件和軟件,今天該公司揭開了它們的神秘面紗,讓我們得以一窺其網絡基礎設施的演變過程。

谷歌當前網絡基礎設施即所謂的“木星”(Jupiter)網絡,容量是第一代網絡的 100 倍,能以每秒 1 Petabit 的驚人速度提供總對分帶寬(total bisection bandwidth)數據。該公司表示,在這種速度下,10 萬臺服務器可以在不到十分之一秒的時間內,閱讀完美國國會圖書館中所有已經掃描的數據。

谷歌工程師艾明·瓦達特(Amin Vahdat)今天 寫道 : “對于谷歌的服務來說,這種網絡性能始終是巨大的益處。工程師們可以從給各種水平的帶寬優化代碼的繁雜工作中解脫出來。例如,一開始,在如何處理連接于相 同的架頂式交換機(top of rack switch)的服務器的數據本地化和部署上,以及單個交換機故障引發的相關損失上,我們就面臨著痛苦的抉擇。”

揭秘谷歌網絡基礎設施十年演變過程

但是,谷歌在 10 年前遠未達到這種數據處理能力。之后,谷歌收購了視頻網站 油Tube,不久后又推出了 Gmail、谷歌地球和谷歌地圖之類的產品,所以該公司的需要也在發生著快速轉變。

以下即是早期服務器網絡在 2005 年時的模樣:

揭秘谷歌網絡基礎設施十年演變過程揭秘谷歌網絡基礎設施十年演變過程揭秘谷歌網絡基礎設施十年演變過程

正如谷歌在今天的 文章 中 所寫,該公司基本上在 2004 年就部署了標準的服務器集群(server cluster),這些 2005 年產的機器也是谷歌在 Firehose 1.1 數據中心架構部署的網絡設備的第一個例證。在 2005 年部署的機器的目標是,在 1 萬臺服務器之間實現 1 Gbps 的對分帶寬。為了實現這個目標,谷歌曾試圖將交換結構(switching fabric)整合到其自主開發的服務器中,但事實證明“服務器的正常運行時間不及理想狀態。”

有了 Firehose 1.1 數據中心架構以后,谷歌部署了其第一個定制數據中心集群結構(cluster fabric)。谷歌的工程師今天寫道:“根據我們從 FH1.0 了解到的情況,我們不使用常規服務器來存放交換芯片。”相反,谷歌開發了定制式構架,并且轉移到所謂的 Clos 數據中心網絡構架。

到 2008 年,Firehose 1.1 已演變為 WatchTower,后者轉而使用 10G 光纖,而非傳統的網線。谷歌面向全球的數據中心推出了這個版本的架構。

下面即是那些架頂的模樣:

揭秘谷歌網絡基礎設施十年演變過程

一年后,WatchTower 又變成了“土星”(Saturn)。WatchTower 的架構可以擴大至 87 Tbps,而“土星”架構則可以在更稠密的架頂下擴大至 207 Tbps。

揭秘谷歌網絡基礎設施十年演變過程揭秘谷歌網絡基礎設施十年演變過程揭秘谷歌網絡基礎設施十年演變過程

很顯然,“土星”很好地滿足了谷歌的需要,因為三年以后該公司才向好于“土星”能力的架構轉變。

谷歌工程師寫道:“隨著每臺服務器的平均帶寬要求持續提高,數據中心所有集群的相同帶寬也具有了這種需要。隨著 40G 標準的硅基結構的問世,我們可以考慮將我們的 Clos 架構擴大至整個數據中心(可歸入內集群網絡層)。”

正是這類架構,現在讓谷歌可以將一個數據中心看作是一臺巨型計算機,用軟件來分配整個網絡中所有服務器的計算和存儲資源。

誠然,“木星”硬件看上去不同于谷歌在打造定制式網絡設備上的最早努力,但從許多方面講,它還證明谷歌迅速采用了 軟件定義網絡(Software Defined Networking),從而實現了快速創新能力。

谷歌今天公布了 四篇論文 ,詳細敘述了該公司網絡構架的各個方面。由于谷歌往往先于其他公司觸及傳統硬件和軟件構架的極限,所以類似論文常常在谷歌之外的公司引發新一輪創新活動。

所有的創業公司都想要創建自己的數據中心,但這是不可能的,其他數據中心運營方肯定會詳細研究這些論文,也許會隨著時間的推移執行類似的解決方案。當然,他們的用戶也會從這種轉變中受益。

揭秘谷歌網絡基礎設施十年演變過程

翻譯:皓岳

來自: techcrunch.cn
 本文由用戶 jopen 自行上傳分享,僅供網友學習交流。所有權歸原作者,若您的權利被侵害,請聯系管理員。
 轉載本站原創文章,請注明出處,并保留原始鏈接、圖片水印。
 本站是一個以用戶分享為主的開源技術平臺,歡迎各類分享!