百度開源Ring Allreduce算法：提速31倍

美國時間 2 月 22 日，百度硅谷人工智能實驗室（SVAIL）宣布向深度學習領域開源了 Ring Allreduce 算法庫。Ring Allreduce 是高性能計算領域的著名算法，但在深度學習領域還應用不足。

用通俗的語言來解釋 Ring Allreduce 算法，就是以前都是向單個處理器發送數據，一個一個很慢，而 Ring Allreduce 算法是同時發送，這樣發送時間就大大減少，效率也提高了。

這是普通算法：

這是 Ring Allreduce 算法：

據了解，運用 Ring Allreduce 算法，百度硅谷人工智能實驗室將神經網絡的訓練擴展至 40 個 GPU 并且訓練速度提高 31 倍。

百度稱：“我們推出這個項目最大的愿望，就是希望通過開放和分享百度在分布式深度機器學習及大數據領域的技術經驗，將分布式機器學習的門檻降低，使得更多個人和機構能夠享受大數據帶來的便利。”

百度認為，互聯網精神的本質，就是共享。技術的研發和進步不只是一家公司的盈利，而是全人類的獲益。我們通過開源提供的更多技術支持，是希望大家一起推動人工智能的發展，造福的是我，是你，也是他。

來自: 驅動之家