深度學習如何入門?
如果您具有數學和計算機科學方面的工程背景或相關知識的編碼經驗,只需兩個月即可熟練掌握深度學習。 難以置信? 四步使它成為可能。
欲了解更多,請往下看
Step 1: 學習機器學習基礎
(可選,但強烈推薦)
開始于Andrew Ng的機器學習 機器學習 - 斯坦福大學 。他的課程介紹了目前各種機器學習算法,更重要的是機器學習的一般程序和方法,包括數據預處理,超參數調優等。
同時推薦閱讀由Geoff Hinton,Yoshua Bengio和Yann LeCun提供的 NIPS 2015深度學習教程 ,其中介紹略少一些。
Step 2: 深入學習
個人的學習偏好是觀看演講視頻,并有幾個優秀的課程在線。 這里有幾個特別喜歡的課程,可以推薦:
-
Deep learning at Oxford 2015 由Nando de Freitas教授解釋基礎知識,不會過于簡單。
如果您已經熟悉神經網絡并希望深入,請從第9講開始。 他在他的例子中使用Torch framework。 (Videos on 油Tube)
-
Neural Networks for Machine Learning Geoffrey Hinton在Coursera上的課程。Hinton是一位優秀的研究人員,他們展示了廣義反向傳播算法的使用,對深度學習的發展至關重要。
-
Neural Networks Class by Hugo Larochelle: 另一個優秀的課程
如果你更喜歡的是書籍,這里有一些優秀的資源。 去查看一下,我不做判斷。
-
Neural Networks and Deep Learning Book by Michael Nielsen’s :在線學習書,并有幾個交互式JavaScript元素可以玩。
-
Deep Learning Book by Ian Goodfellow, Yoshua Bengio和Aaron Courville:比較密集,但莫非不是一個很好的資源
Step 3: 選擇一個區域并進一步深入
確定自己繼續深入學習的熱情。 這個領域是巨大的,所以這個列表絕對不是一個全面的列表。
-
計算機視覺: 深入學習已經改變了這一領域。 斯坦福大學的CS231N課程由Andrej Karpathy的課程是我遇到的最好的課程; CS231n卷積神經網絡視覺識別 。 它向您介紹了基礎知識以及covnets,以及幫助您在AWS中設置GPU實例。 另請參閱 Mostafa S. Ibrahim 的“ 計算機視覺入門 ”
-
自然語言處理 (NLP):用于機器翻譯,問答,情緒分析。 要掌握這一領域,需要深入了解這兩種算法和自然語言的基礎計算屬性。 CS 224N / Ling 284 by Christopher Manning 是一個很棒的課程。 CS224d:自然語言處理的深度學習 ,另一個斯坦福大學的學者David Socher(MetaMind的創始人)也是一個很好的課程,可以解決與NLP相關的所有最新的深入學習研究。 有關詳細信息,請參閱 如何學習自然語言處理?
-
記憶網絡 (RNN-LSTM): 在LSTM中將注意力機制結合在一起的循環神經網絡與外部可寫內存意味著一些有趣的工作,可以構建能夠以問題和回答方式理解,存儲和檢索信息的系統。 這個研究領域從紐約大學Yann Lecun博士的非死book AI實驗室開始。 原始文章是在arxiv: 記憶網絡 。 有許多研究變體,數據集,基準等來源于這項工作,例如,Metamind的 自然語言處理動態內存網絡
-
深度加強學習: 由AlphaGo著名,Go-playing系統擊敗了歷史上最強的Go玩家。 David Silver's(Google Deepmind)的 RL視頻講座 和 Rich Stutton教授的書 是一個很好的開始。 對于LSTM的溫柔介紹,請參閱Christopher關于了解 LSTM網絡 和Andrej Karpathy的“ 經典神經網絡的不合理有效 性”
-
生成模型: 雖然歧視性模型試圖檢測,識別和分離事物,但是他們最終會尋找在基礎層面上區分和不理解數據的功能。 除了短期應用之外,生成模型還提供了自動學習自然特征的潛力; 類別或尺寸或其他完全。 在三種常用的生成模型中, 生成對抗網絡(GANs) , 變體自動編碼器(VAEs) 和 自回歸模型(如PixelRNN) ,GAN最受歡迎。深入閱讀:
-
The Laplacian Adversarial Networks (LAPGAN) Paper (LAPGAN) 這固定了穩定性問題
-
The Deep Convolutional Generative Adversarial Networks (DCGAN) paper 和 DCGAN Code 它可以用于在沒有任何監督的情況下學習功能的層次結構。 另外,查看 DCGAN used for Image Superresolution
Step 4: 建立項目
做是成為專家的關鍵。 嘗試建立一些你感興趣的、并符合你的技能水平的東西。 以下是一些建議,讓您思考:
-
按照傳統,首先對 MNIST數據集 進行分類
-
在 ImageNet 上嘗試面部檢測和分類。 如果你這樣做,做 ImageNet挑戰2017 。
-
教授神經網絡來重現著名畫家的藝術風格( 藝術風格的神經算法 )
欲了解更多,請查看CS231n Winter 2017 、 Winter 2016 & Winter 2015 項目。 還要關注Kaggle和HackerRank的比賽,以獲得有趣的東西以及競爭和學習的機會。
其他資源
以下是一些指導,幫助你持續學習
-
閱讀一些優秀的博客。 克里斯托弗·奧拉( Christopher Olah )的博客和安德魯·卡皮斯( Andrew Karpathy )的博客都很好地解釋了基本概念和最近的突破
-
在推ter上關注影響力。 以下是幾個開始@drfeifei,@ylecun,@karpathy,@AndrewYNg,@Kdnuggets,@OpenAI,@googleresearch。 (見: 誰在推ter上關注機器學習信息? )
-
Google+深度學習社區 ,Yann Lecunn,是與深度學習創新保持聯系以及與其他深入學習專業人士和愛好者溝通的好方法。
請參閱 ChristosChristofidis / awesome-deep-learning ,這是一個精心設計的Deep Learning教程,項目和社區,讓學習更輕松。
翻譯很辛苦,還有一些沒有寫出來,放在專欄里。 深度學習入門資源
只是介紹一種學習方法,里面的內容你不可能全看
在每一步下,選擇一個或兩個就足夠了
方向很重要
來自:https://segmentfault.com/a/1190000011044305