Caffe生成的數據分為2種格式：Lmdb和Leveldb。 它們都是鍵/值對（Key/Value Pair）嵌入式數據庫管理系統編程庫。 雖然lmdb的內存消耗是leveldb的1.1倍，但是lmdb的速度比leveldb快10%至15%，更重要的是lmdb允許多種訓練模型同時讀取同一組數據集。 因此lmdb取代了leveldb成為Caffe默認的數據集生成格式

本教程為了那些第一次使用caffe框架進行深度學習訓練的人而生的，我來一個簡單關于caffe訓練數據的組織來個簡單的介紹。我們都知道caffe中使用leveldb 和lmd兩種方式進行組織數據。這里介紹一種使用lmd進行訓練數據組織的方式。

摘要：如今深度學習是AI和機器學習領域最熱門的學習趨勢。我們來審查為深度學習而開發的軟件，包括Caffe，CUDAconvnet，Deeplearning4j，Pylearn2，Theano和Torch。如今深度學習是AI和機器學習領域最熱門的學習趨勢。我們來審查為深度學習而開發的軟件，包括Caffe，CUDAconvnet，Deeplearning4j，Pylearn2，Theano和Torch。深度學習是現在人工智能（ArtificialIntelligence）和機器學習（MachineLearning）最熱門的的趨勢，每天的報刊都在報道令人驚異的新成就，比如在IQ測試中超越了人類

購物籃分析：引發性例子1：經常同時購買的商品可以擺近一點，以便進一步刺激這些商品一起銷售。2：規劃哪些附屬商品可以降價銷售，以便刺激主體商品的捆綁銷售。哪組商品顧客可能會在一次購物時同時購買？關聯規則是形如的蘊含式，（支持度）規則在事務集D中成立，支持度S是事務包含的百分比。Support（）=P（）（置信度）置信度C是D中同時包含A的事務同時也包含B的百分比。Confidence（）=P（）/P（A）（k項集）包含k個項的項集稱為k項集，頻繁k項集的集合記作，候選k項集的集合記作。關聯分析的基本概念

?C4.5是一種監督學習的分類算法，由ID3演進而來，并克服了ID3的以下幾個不足：使用信息增益作為屬性選擇度量，更傾向于選擇分支更多的屬性不能處理連續值不能處理缺失值對樹進行剪枝，避免過擬合?對以下訓練數據，使用C4.5構造決策樹選取分裂屬性對于離散屬性V，ID3中計算的是信息增益。但是信息增益的一個缺點是傾向于選擇分支更多的屬性，假設添加一個ID屬性，每條數據都有不同的ID，那么使用信息增益作為度量時，屬性ID產生的信息增益將是最大的，但是對每個ID做一個分支是沒有意義的。

業余時間內我們可以做些什么過去3年，做了5件事情寫博客幫助更多人找到工作，學習算法、數據挖掘、機器學習辦讀書會讓普通學生和工程師有更好的交流討論平臺負責在線編程網站hero.pongo.cn幫助企業更好的找到人才辦面試&算法講座幫助人更好的找到工作辦算法公開課助人加強算法，更好的學習工作寫了3年博客包括以下5個系列：微軟面試100題系列經典算法研究系列紅黑樹系列程序員編程藝術系列數據挖掘十大算法系列《支持向量機通俗導論（理解SVM的三層境界）》程序員編程藝術系列找工作幫忙最大的一個系列組織了8期讀書會辦了4次面試&算法講座即將開辦算法公開課內容堆排、快排hash表、二分查找、二叉查找樹紅黑樹、B樹/B+樹/B*樹、R樹、Trie樹、后綴樹貪心算法、動態規劃DFS、BFS、最小生成樹、Dijkstra微積分、矩陣、概率論與數理統計、最優化決策樹、貝葉斯、SVM、神經網絡尋找講師？

大綱深度學習簡介基礎問題：語言表示問題WordEmbedding不同粒度語言單元的表示字符/單字/單詞/短語/句子/文檔值得重點關注的模型RAE/TensorNetwork/卷積網絡NLP的應用語言模型中文分詞知識挖掘情感計算機器翻譯ParaphraseIR探討與思考*深度學習（表示學習）*深度學習（表示學習

1、C4.5機器學習中，決策樹是一個預測模型；他代表的是對象屬性與對象值之間的一種映射關系。樹中每個節點表示某個對象，而每個分叉路徑則代表的某個可能的屬性值，而每個葉結點則對應從根節點到該葉節點所經歷的路徑所表示的對象的值。決策樹僅有單一輸出，若欲有復數輸出，可以建立獨立的決策樹以處理不同輸出。

Grant的編程興趣包括信息檢索、機器學習、文本分類和提取。Grant是Apache Mahout機器學習項目的創始人之一，并且是Apache Lucene和Apache Solr項目的負責人和發言人。他還是描述使用開源工具進行自然語言處理的圖書TamingText（Manning出版社，即將上市）的合著者。簡介：Apache Mahout專家GrantIngersoll引領您快速了解最新版本Mahout中的機器學習庫，并通過示例說明如何部署和擴展Mahout的某些最常用的算法。

當研究院和企業能獲取足夠的專項研究預算之后，能從數據和用戶輸入中學習的智能應用程序將變得更加常見。人們對機器學習技巧（比如說集群、協作篩選和分類）的需求前所未有地增長，無論是查找一大群人的共性還是自動標記海量 Web 內容。Apache?Mahout?項目旨在幫助開發人員更加方便快捷地創建智能應用程序。Mahout?的創始者 Grant Ingersoll 介紹了機器學習的基本概念，并演示了如何使用Mahout?來實現文檔集群、提出建議和組織內容。

　強學習要解決的是這樣的問題：一個能夠感知環境的自治agent，怎樣學習選擇能達到其目標的最優動作。這個很具有普遍性的問題應用于學習控制移動機器人、在工廠中學習進行最優操作工序、以及學習棋類對弈等。當agent在其環境中作出每個動作時，施教者會提供獎賞或懲罰信息，以表示結果狀態的正確與否。

　純粹的歸納學習方法通過在訓練樣例中尋找經驗化的規律來形成一般假設。純粹的分析方法使用先驗知識演繹推導一般假設。本章考慮將歸納和分析的機制結合起來的方法，以獲得兩者的優點：有先驗知識時更高的泛化精度，和依賴訓練數據克服先驗知識的不足。所得到的結合的方法比純粹的歸納學習方法和純粹的分析學習方法性能都要高。

神經網絡和決策樹這樣的學習方法需要一定數目的訓練樣例，以達到一定級別的泛化精度。前面章節討論的理論界限和實驗結果反映出了這一事實。分析學習使用先驗知識和演繹推理來擴大訓練樣例提供的信息，因此它不受同樣的界限所制約。本章考慮了一種稱為基于解釋的學習（EBL）的分析學習方法。在基于解釋的學習中，先驗知識用于分析（或者解釋）觀察到的學習樣例是怎樣滿足目標概念的。

　對學習到的假設，最具有表征力的和最能為人類所理解的表示方法之一為if-then規則的集合。本章探索了若干能學習這樣的規則集合的算法。其中最重要的一種是學習包含變量的規則集合，或稱為一階Horn子句集合。由于一階Horn子句集合可被解釋為邏輯編程語言Prolog中的程序，學習的過程經常被稱為歸納邏輯編程（ILP）。

遺傳算法遺傳算法提供了一種大致基于模擬進化的學習方法。其中的假設常被描述為二進制位串，位串的含義依賴于具體的應用。然而，假設也可以被描述為符號表達式或者甚至是計算機程序。對合適假設的搜索是從若干初始假設的群體（population）或匯集（collection）開始的。當前群體的成員通過模仿生物進化的方式來產生下一代群體，比如說隨機變異（mutation）和交叉（crossover）。在每一步，根據給定的適應度（fitness）度量評估當前群體中的假設，而后使用概率方法選出適應度最高的假設作為產生下一代的種子。遺傳算法已被成功地應用到多種學習任務和最優化問題中。例如，遺傳算法已被用于學習機器人控制的規則集，以及優化人工神經網絡的拓撲結構和學習參數。

基于實例的學習已知一系列的訓練樣例，很多學習方法為目標函數建立起明確的一般化描述；但與此不同，基于實例的學習方法只是簡單地把訓練樣例存儲起來。從這些實例中泛化的工作被推遲到必須分類新的實例時。每當學習器遇到一個新的查詢實例，它分析這個新實例與以前存儲的實例的關系，并據此把一個目標函數值賦給新實例。

本章理論地刻畫了若干類型的機器學習問題中的困難，和若干類型的機器學習算法的能力。該理論致力于回答如下的問題：“在什么樣的條件下成功的學習是可能的？”以及“在什么條件下一特定的學習算法可保證成功運行？”為了分析學習算法，這里考慮了兩種框架。

貝葉斯推理提供了推理的一種概率手段。它基于如下的假定，即待考查的量遵循某概率分布，且可根據這些概率及已觀察到的數據進行推理，以作出最優的決策。貝葉斯推理對機器學習十分重要，因為它為衡量多個假設的置信度提供了定量的方法。

假設的精度進行經驗的評估是機器學習中的基本問題。本章介紹了用統計方法估計假設精度，主要為解決以下三個問題：首先，已知一個假設在有限數據樣本上觀察到的精度，怎樣估計它在其他實例上的精度。其次，如果一個假設在某些數據樣本上好于另一個，那么一般情況下是否該假設更準確。

人工神經網絡（Artificial Neural Networks - ANNs）提供了一種普遍而且實用的方法，來從樣例中學習值為實數、離散或向量的函數。像反向傳播（BackPropagation）這樣的算法使用梯度下降來調節網絡參數以最佳擬合由輸入-輸出對組成的訓練集合。