閱讀115 返回首頁    go 搜狐


我所推薦的深度學習學習路徑

深度學習最近為什麼這麼火

外行所見的是2016年AlphaGo 4比1 戰勝李世石,掀起了一波AI熱潮,DeepMind背後所用的深度學習一時間火得不得了。其實在內行看來,AlphaGo對陣李世石的結果是毫無懸念的,真正的突破在幾年前就發生了。2012年,Gefferey Hinton的學生Alex使用一個特別構造的深度神經網絡(後來就叫AlexNet),在圖像識別的專業比賽ImageNet中,得到了遠超之前最好成績的結果,那個時候,整個人工智能領域就已經明白,深度學習的革命已經到來了。果然,之後深度學習在包括語音識別,圖像理解,機器翻譯等傳統的人工智能領域都超越了原先各自領域效果最好的方法。從2015年起,工業界內一些嗅覺靈敏的人士也意識到,一場革命或已到來。

基本概念

機器學習與深度學習

深度學習是機器學習中的一種技術,機器學習包含深度學習。機器學習還包含其他非深度學習的技術,比如支持向量機,決策樹,隨機森林,以及關於“學習”的一些基本理論,比如,同樣都能描述已知數據的兩個不同模型,參數更少的那個對未知數據的預測能力更好(奧卡姆剃刀原理)。而深度學習是一類特定的機器學習技術,主要是深度神經網絡學習,在之前經典的多層神經網絡的基礎上,將網絡的層數加深,並輔以更複雜的結構,在有極大量的數據用於訓練的情況下,在很多領域得到了比其他方法更好的結果。

機器學習與大數據

大數據:機器學習的基礎,但在多數語境下,更側重於統計學習方法

機器學習,深度學習,數據挖掘,大數據的關係可以用下圖表示
b8aac528719821bec89fee0b3443902b

資料

深度學習火起來之後,網上關於深度學習的資料很多。但是其質量參差不齊。我從2013年開始就關注深度學習,見證了它從一個小圈子的領先技術到一個大眾所追捧的熱門技術的過程。也看了很多資料。我認為一個高質量的學習資料可以幫助你真正的理解深度學習的本質,並且更好地掌握這項技術,用於實踐。

以下是我所推薦的學習資料

視頻課程

Yaser Abu-Mostafa

加州理工的Yaser Abu-Mostafa教授出品的機器學習網絡課程,非常係統地講解了機器學習背後的原理,以及主要的技術。講解非常深入淺出,讓你不光理解機器學習有哪些技術,還能理解它們背後的思想,為什麼要提出這項技術,機器學習的一些通用性問題的解決方法(比如用正則化方法解決過擬合)。強烈推薦,吐血推薦!
課程名稱:Machine Learning Course - CS 156
視頻地址:https://www.youtube.com/watch?v=mbyG85GZ0PI&list=PLD63A284B7615313A

(注:這門課程是英文講解,其實並不算太難。如果真的不願意聽英文,可以看他的學生林田軒的課程,主要內容相近。課程名稱:機器學習基石。視頻地址:https://www.youtube.com/watch?v=nQvpFSMPhr0&list=PLXVfgk9fNX2I7tB6oIINGBmW50rrmFTqf

Geoffrey Hinton

深度學習最重要的研究者。也是他和另外幾個人(Yann LeCun,Yoshua Bengio等)在神經網絡被人工智能業界打入冷宮,進入低穀期的時候仍然不放棄研究,最終取得突破,才有了現在的深度學習熱潮。他在Coursera上有一門深度學習的課程,其權威性自不待言,但是課程製作的質量以及易於理解的程度,實際上比不上前麵Yaser Mostafa的。當然,因為其實力,課程的幹貨還是非常多的。
課程名稱:Neural Networks for Machine Learning
課程地址:https://www.coursera.org/learn/neural-networks

UdaCity

Google工程師出品的一個偏重實踐的深度學習課程。講解非常簡明扼要,並且注重和實踐相結合。推薦。這門課程是英文講解,但提供中文字幕。
課程名稱:深度學習
課程地址:https://cn.udacity.com/course/deep-learning--ud730

小象學院

國內小象學院出品的一個深度學習課程,理論與實踐並重。由紐約城市大學的博士李偉主講,優點是包含了很多業內最新的主流技術的講解。值得一看。
課程名稱:深度學習(第四期)
課程地址: https://www.chinahadoop.cn/classroom/45/courses

《Deep Learning the Book》 —— 這本書是前麵提到的大牛Yoshua Begio的博士生Goodfellow寫的。Goodfellow是生成式對抗網絡的提出者,生成式對抗網絡被Yann LeCun認為是近年最激動人心的深度學習技術想法。這本書比較係統,專業,偏重理論,兼顧實踐。是係統學習深度學習不可多得的好教材。英文版見 https://deeplearningthebook.com,目前Github上已經有人翻譯出了中文版https://github.com/exacity/deeplearningbook-chinese

推薦路徑

不同的人有不同的需求,有些人希望掌握好理論基礎,然後進行實踐,有些人希望能夠快速上手,馬上做點東西,有些人希望理論與實踐兼顧。下麵推薦幾條學習路徑,照顧到不同的需求。大家可以根據自己的特點進行選擇。

  1. Hard way
    Yaser -> Geoffrey Hinton -> UdaCity -> 小象學院 -> Good Fellow
    特點:理論紮實,步步為營。最完整的學習路徑,也是最“難”的。
    推薦指數 4星

  2. Good way
    Yaser -> UdaCity -> 小象學院 -> Good Fellow
    特點:理論紮實,緊跟潮流,兼顧實戰,最後係統梳理。比較平衡的學習路徑。
    推薦指數 5星

  3. "Fast" way
    UdaCity -> Good Fellow
    特點:快速上手,然後完善理論。
    推薦指數 4星

  4. "碼農" way
    UdaCity
    特點:快速上手,注重實踐。
    推薦指數 3星

以上路徑按照從完整到精簡的順序排列。如果要我隻推薦一條路徑的話,那麼就是2 Good way(Yaser -> UdaCity -> 小象學院 -> Good Fellow),完整同時又兼顧效率,理論與實踐並進的學習路徑。強烈推薦。

最後更新:2017-07-05 10:02:00

  上一篇:go  深度學習實戰——年齡預測問題
  下一篇:go  七周成為數據分析師—Excel函數篇