各種編程語言的深度學習庫整理
Python
1. Theano 是一個python類庫,用數組向量來定義和計算數學表達式。它使得在Python環境下編寫深度學習算法變得簡單。在它基礎之上還搭建了許多類庫。
1. Keras 是一個簡潔、高度模塊化的神經網絡庫,它的設計參考了Torch,用Python語言編寫,支持調用GPU和CPU優化后的Theano運算。
2. Pylearn2 是一個集成大量深度學習常見模型和訓練算法的庫,如隨機梯度下降等。它的功能庫都是基于Theano之上。
3. Lasagne 是一個搭建和訓練神經網絡的輕量級封裝庫,基于Theano。它遵循簡潔化、透明化、模塊化、實用化和專一化的原則。
4. Blocks 也是一個基于Theano的幫助搭建神經網絡的框架。
2. Caffe 是深度學習的框架,它注重于代碼的表達形式、運算速度以及模塊化程度。它是由伯克利視覺和學習中心(Berkeley Vision and Learning Center, BVLC)以及社區成員共同開發。谷歌的 DeepDream 項目就是基于Caffe框架完成。這個框架是使用BSD許可證的C++庫,并提供了Python調用接口。
3. nolearn 囊括了大量的現有神經網絡函數庫的封裝和抽象接口、大名鼎鼎的 Lasagne 以及一些機器學習的常用模塊。
4. Genism 也是一個用Python編寫的深度學習小工具,采用高效的算法來處理大規模文本數據。
5. Chainer 在深度學習的理論算法和實際應用之間架起一座橋梁。它的特點是強大、靈活、直觀,被認為是深度學習的 靈活框架 。
6. deepnet 是基于GPU的深度學習算法函數庫,使用Python語言開發,實現了前饋神經網絡(FNN)、受限玻爾茲曼機(RBM)、深度信念網絡(DBN)、自編碼器(AE)、深度玻爾茲曼機(DBM)和卷積神經網絡(CNN)等算法。
7. Hebel 也是深度學習和神經網絡的一個Python庫,它通過pyCUDA控制支持CUDA的GPU加速。它實現了最重要的幾類神經網絡模型,提供了多種激活函數和模型訓練方法,例如momentum、Nesterov momentum、dropout、和early stopping等方法。
8. CXXNET 是一個基于MShadow開發的快速、簡潔的分布式深度學習框架。它是一個輕量級、易擴展的C++/CUDA神經網絡工具箱,提供友好的Python/Matlab接口來進行訓練和預測。
9. DeepPy 是基于NumPy的深度學習框架。
10. DeepLearning 是一個用C++和Python共同開發的深度學習函數庫。
11. Neon 是Nervana System 的深度學習框架,使用Python開發。
Matlab
1. ConvNet 卷積神經網絡是一類深度學習分類算法,它可以從原始數據中自主學習有用的特征,通過調節權重值來實現。
2. DeepLearnToolBox 是用于深度學習的Matlab/Octave工具箱,它包含深度信念網絡(DBN)、 棧式自編碼 器(stacked AE)、卷積神經網絡(CNN)等算法。
3. cuda-convet 是一套卷積神經網絡(CNN)代碼,也適用于前饋神經網絡,使用C++/CUDA進行運算。它能對任意深度的多層神經網絡建模。只要是有向無環圖的網絡結構都可以。訓練過程采用反向傳播算法(BP算法)。
4. MatConvNet 是一個面向計算機視覺應用的卷積神經網絡(CNN)Matlab工具箱。它簡單高效,能夠運行和學習最先進的機器學習算法。
CPP
1. eblearn 是開源的機器學習C++封裝庫,由Yann LeCun主導的紐約大學機器學習實驗室開發。它用基于能量的模型實現卷積神經網絡,并提供可視化交互界面(GUI)、示例以及示范教程。
2. SINGA 是Apache軟件基金會支持的一個項目,它的設計目標是在現有系統上提供通用的分布式模型訓練算法。
3. NVIDIA DIGITS 是用于開發、訓練和可視化深度神經網絡的一套新系統。它把深度學習的強大功能用瀏覽器界面呈現出來,使得數據科學家和研究員可以實時地可視化神經網絡行為,快速地設計出最適合數據的深度神經網絡。
4. Intel? Deep Learning Framework 提供了Intel?平臺加速深度卷積神經網絡的一個統一平臺。
Java
1. N-Dimensional Arrays for Java (ND4J) 是JVM平臺的科學計算函數庫。它主要用于產品中,也就是說函數的設計需求是運算速度快、存儲空間最省。
2. Deeplearning4j 是第一款商業級別的開源分布式深度學習類庫,用Java和Scala編寫。它的設計目的是為了在商業環境下使用,而不是作為一款研究工具。
3. Encog 是一個機器學習的高級框架,涵蓋支持向量機、人工神經網絡、遺傳編程、貝葉斯網絡、隱馬可夫模型等,也支持遺傳算法。
JavaScript
1. Convnet.js 由JavaScript編寫,是一個完全在瀏覽器內完成訓練深度學習模型(主要是神經網絡)的封裝庫。不需要其它軟件,不需要編譯器,不需要安裝包,不需要GPU,甚至不費吹灰之力。
Lua
1. Torch 是一款廣泛適用于各種機器學習算法的科學計算框架。它使用容易,用快速的腳本語言LuaJit開發,底層是C/CUDA實現。Torch基于Lua編程語言。
Julia
1. Mocha 是Julia的深度學習框架,受C++框架Caffe的啟發。Mocha中通用隨機梯度求解程序和通用模塊的高效實現,可以用來訓練深度/淺層(卷積)神經網絡,可以通過( 棧式)自編碼 器配合非監督式預訓練(可選)完成。它的優勢特性包括模塊化結構、提供上層接口,可能還有速度、兼容性等更多特性。
Lisp
1. Lush(Lisp Universal Shell) 是一種面向對象的編程語言,面向對大規模數值和圖形應用感興趣的廣大研究員、實驗員和工程師們。它擁有機器學習的函數庫,其中包含豐富的深度學習庫。
Haskell
1. DNNGraph 是Haskell用于深度神經網絡模型生成的領域特定語言(DSL)。
.NET
1. Accord.NET 是完全用C#編寫的.NET機器學習框架,包括音頻和圖像處理的類庫。它是產品級的完整框架,用于計算機視覺、計算機音頻、信號處理和統計應用領域。
R
1. darch 包可以用來生成多層神經網絡(深度結構)。訓練的方法包括了對比散度的預訓練和眾所周知的訓練算法(如反向傳播法或共軛梯度法)的細調。
2. deepnet 實現了許多深度學習框架和神經網絡算法,包括反向傳播(BP)、受限玻爾茲曼機(RBM)、深度信念網絡(DBP)、深度自編碼器(Deep autoencoder)等等。
原文鏈接: Deep Learning Libraries by Language (譯者/趙屹華 審核/劉帝偉、朱正貴、李子健 責編/周建丁)
譯者簡介: 趙屹華 ,計算廣告工程師@搜狗,前生物醫學工程師,關注推薦算法、機器學習領域。