谷歌推出TensorFlow Serving 降低機器學習模型投入生產的難度

英文原文：Google Makes It Easier To Take Machine Learning Models Into Production

谷歌在今天 推出了 TensorFlowServing，這是一個旨在幫助開發者將機器學習模型投入實際生產的開源項目。顧名思義，TensorFlowServing 是專門針對谷歌自家的 TensorFlow 機器學習庫進行優化的，不過谷歌表示它還可以進一步支持其他的模型和數據。

TensorFlow 這樣的項目可以簡化機器學習算法的開發流程，也可以訓練這些算法適應特定類型的數據輸入，不過 TensorFlow Serving 是專門用于將這些模型投入到生產環境的。開發者可以使用 TensorFlow 訓練他們的模型，然后使用 TensorFlow Serving 的 API 來處理來自來自客戶端的數據輸入。谷歌還表示 TensorFlow Serving 可以利用機器現有的 GPU 資源來提升處理速度。

按照谷歌的說法，采用這種系統不僅意味著開發者可以更快地將機器學習模型投入生產，而且他們還可以測試不同的算法和模型，同時保持整體架構和 API 的穩定。此外，開發者在完善模型的過程中，或者新的輸入數據導致模型的輸出改變時，機器學習架構的其他部分都會保持穩定。

谷歌提到 TensorFlow Serving 是用 C++ 編寫的（不是谷歌自家的 Go 語言）。該軟件已經針對性能進行了優化，它可以在搭載 16 核 Xeon 處理器的計算機上處理每秒 10 萬次的查詢。

TensorFlow Serving 的代碼和部分相關教程已經可以在 GitHub 上獲取，按照 Apache 2.0 協議授權。

翻譯：關嘉偉（@consideRay）

來自: techcrunch.cn