510
深度學習必備手冊（上）
更多深度文章，請關注雲計算頻道：https://yq.aliyun.com/cloud
深度學習的概念源於人工神經網絡的研究，如果追溯深度學習的概念還是要回到2006年Hinton那篇論文，基於深信度網（DNB）提出非監督貪心逐層訓練算法，未解決深層結構相關的優化難題出現的論文。
其實，對於我們人類而言，很多事情都是經過大腦的深層處理模式的解決的，筆者認為，在未來廣度學習一定是深度學習的一個沿伸，為什麼？因為人類最顯著的特征並不是深度學習，而是廣度學習。所謂的廣度學習是建立在一係列深度學習的基礎上的，廣度學習通俗的說法既是聯想能力。
聯想能力對於人類來說是非常重要的能力，一個領域的解決方法擴展到另外一個領域這種思維方式，在我們人類來說是非常普遍的。但是，對於技術來說，這些能力還需要很長的路來走，起碼一點，就是深度學習必須達到非常高的程度。因為之後這樣深度學習才能真正的應用於強人工智能，強人工智能要求的就是人工智能具有聯想能力，一旦強人工智能具備了強人工智能的基礎，那麼強人工智能一定會從夢想成為現實。
深度學習框架篇：
1. 機器學習的敲門磚：手把手教你TensorFlow初級入門
摘要：在開始使用機器學習算法之前，我們應該首先熟悉如何使用它們。而本文就是通過對TensorFlow的一些基本特點的介紹，讓你了解它是機器學習類庫中的一個不錯的選擇。
2. Windows下如何配置TensorFlow？這有個簡單明了的教程（支持GPU哦）
摘要：本文簡單介紹如何在windows係統下配置TensorFlow並能使用GPU進行加速運算的過程，文章通俗易懂，更新及時。
3. 實踐指南！16位資深行業者教你如何學習使用TensorFlow
摘要：本文整理quora論壇的主題——如何開始學習TensorFlow，16位資深行業者給出了相關的建議以及對應的學習資料鏈接。讀者可以根據自身情況參考合適的建議，是一份不可多得的學習TensorFlow的指南。
摘要：正在學習TensorFlow，利用效率不夠高？不懂TensorFlow裏麵的奧秘？看大神如何一步步教你如何高效使用TensorFlow！
5. IOS平台TensorFlow實踐：邏輯斯蒂回歸（附源碼）（一）
摘要：本文是《從零到一：IOS平台TensorFlow入門及應用》係列一，先介紹了邏輯斯蒂回歸分類器和TensorFlow的相關知識，然後介紹了在IOS平台如何使用TensorFlow訓練分類器，並附上源碼。
6. IOS平台TensorFlow實踐：實際應用教程（附源碼）（二）
摘要：本文是《從零到一：IOS平台TensorFlow入門及應用》係列二，介紹IOS平台TensorFlow的安裝，以及將係列一中開發的模型在IOS app上的實際應用
摘要：LSTM在解決很多實際問題上效果非常好，通過本文你可以了解到在TensorFlow中，如何實現基本的LSTM網絡。
8. 動手實驗 - TensorFlow和TensorBoard自然語言分析
摘要：動手實踐是學習任何知識的有效途徑之一。本文作者通過一個實際的例子讓我們大家動手來用TensorFlow 和 TensorBoard兩個強大的Python工具進行自然語言分析的應用。
9. 一次神經網絡的探索之旅-基於Tensorflow的路標識別
摘要：是否覺得理論的神經網絡有點抽象呢？是否想知道神經網絡具體是怎麼應用呢？本文將一步一步引領你完成一個基於TensorFlow的交通路標識別項目。還等什麼呢，快來看看吧。
摘要：作者從自己的過往經曆帶領讀者了解模煳測試在軟件漏洞檢測中的作用，並具體到最近火熱的TensorFlow中的實際運用。給希望從事機器學習程序開發的人們，在相關的軟件測試領域起到了很好的拋磚引玉的作用。
11. 卷積神經網絡應用：基於Tensorflow的CNN/CRF圖像分割技術
摘要：本篇文章驗證了卷積神經網絡應用於圖像分割領域時存在的一個問題——粗糙的分割結果。根據像素間交叉熵損失的定義，我們在簡化的場景下進行了模型的訓練，並使用後向傳播來更新權重。我們使用條件隨機場（CRFs）來解決分割結果粗糙的問題，並取得了很好的效果。本文中的代碼注釋詳細、功能完善，也便於讀者閱讀。
12. 手把手教你使用TensorFlow生成對抗樣本 | 附源碼
摘要：本文使用TensorFlow一步一步生成對抗樣本，步驟明確清晰。首先生成的對抗樣本不具有旋轉魯棒性，後麵使用同樣的方法生成具有魯棒性的對抗樣本，適合初學者對生成對抗樣本的入門及動手實驗。
13. 用TensorFlow和TensorBoard從零開始構建ConvNet（CNN）
摘要：Tensorflow作為當下最流行的深度學習框架，實現ConvNet（CNN）自然是輕而易舉，但是本文創造性的使用的TensorBoard來圖形化展示CNN實現過程，極大的提高了研究者的對自己模型的管理能力。
摘要：本文主要和大家分享如何使用Tensorflow從頭開始構建和訓練卷積神經網絡。這樣就可以將這個知識作為一個構建塊來創造有趣的深度學習應用程序了。
15. 如何用Tensorflow實現RNN？本文將帶你進一步研究
摘要：本文詳細介紹了如何用Tensorflow實現RNN，有針對性地介紹了構建個性化的RNN時需要用什麼。
16. 看深度學習框架排名第一的TensorFlow如何進行時序預測——第一篇
摘要：2017年深度學習框架關注度排名tensorflow以絕對的優勢占領榜首，本文通過一個小例子介紹了TensorFlow在時序預測上的應用。
17．如何使用最流行框架Tensorflow進行時間序列分析——第二篇
摘要：2017年深度學習框架關注度排名tensorflow以絕對的優勢占領榜首，本文通過使用tensorflow優化過去一個使用特征提取方法的框架，證實了深度學習的優秀性能。
摘要：在這篇文章中，我們將看到一個使用了最新高級構件的例子，包括Estimator（估算器）、Experiment（實驗）和Dataset（數據集）。值得注意的是，你可以獨立地使用Experiment和Dataset。不妨進來看看作者是如何玩轉這些高級API的。
19．PyTorch vs TensorFlow，哪個更適合你
摘要：本文將探討PyTorch和TensorFlow這兩種流行深度學習框架之間的關鍵相似點和不同點。為什麼選擇這兩個框架，而不是其他的呢？
20. 強大的PyTorch：10分鍾讓你了解深度學習領域新流行的框架
摘要: 今年一月份開源的PyTorch，因為它強大的功能，它現在已經成為深度學習領域新流行框架，它的強大源於它內部有很多內置的庫。本文就著重介紹了其中幾種有特色的庫，它們能夠幫你在深度學習領域更上一層樓。
21. 深度學習有很長的一段路要走！Keras作者談機器學習的局限性
摘要：迄今為止，深度學習唯一真正的成功之處，是在給出了大量的人為標注數據之後，使用連續的幾何變換將空間X映射到空間Y。 做好這一切，是每個行業遊戲製定者必備的能力，但對於人類級別的AI，仍然有很長的路要走。
摘要：還在苦惱如何寫自己的CNN網絡？看大神如何使用keras11行代碼構建CNN網絡,有源碼提供。
23．解讀Keras在ImageNet中的應用：詳解5種主要的圖像識別模型
摘要：自從2012年以來，CNN和其它深度學習技術就已經占據了圖像識別的主流地位。本文以Keras為例，介紹了5種主要的圖像識別模型，並通過實際案例進行詳細介紹。
24. 私人定製——使用深度學習Keras和TensorFlow打造一款音樂推薦係統
摘要：還在為蝦米音樂等APP的精準推送感到驚奇嘛？快來瞅瞅，自己也可以私人定製一個音樂推薦係統啦。本文利用深度學習打造一個音樂推薦係統，處理起來不是很複雜，主要是先收集音樂製作成一個音樂庫，然後對音樂進行處理轉換成相關的頻譜圖，不同類型的音樂對應不同的頻譜圖，之後利用這些頻譜圖訓練搭建的卷積神經網絡模型，以此實現後續的音樂推薦。
RNN（循環神經網絡）篇：
摘要：隨著深度學習的流行，循環神經網絡也隨之受到了業內人士的廣泛關注。目前該技術已經在自然語言處理（NLP）中取得了巨大的成功，想了解麼？快來看看吧。
摘要：本文簡單介紹循環神經網絡RNN的發展過程，分析了梯度下降算法、反向傳播及LSTM過程。
摘要：本文適用於沒有任何機器學習背景的讀者，目標是向藝術家和設計師展示如何使用一個預訓練的神經網絡並使用簡單的Javascript和p5.js庫生成交互式的數字作品。教程簡單詳細，沒有任何的公式與推導。
4. 通過SketchRNN、PCA和t-SNE從Google QuickDraw數據集中顯示矢量圖的潛在空間|附源碼
摘要：本文通過SketchRNN、PCA以及t-SNE這三種方式可視化並分析了穀歌QuickDraw塗鴉數據集的潛層空間，可以從可視化圖中找到塗鴉的一些規律，並提煉出語義及更抽象的概念。
5. 如何用Tensorflow實現RNN？本文將帶你進一步研究
摘要：本文詳細介紹了如何用Tensorflow實現RNN，有針對性地介紹了構建個性化的RNN時需要用什麼。
摘要：複盤遞歸神經網絡，通過複盤，反思，讓遞歸神經網絡更完美！
CNN（卷積神經網絡）篇：
1. Top100論文導讀：深入理解卷積神經網絡CNN（Part Ⅰ）
摘要：作者從目前熱門的top 100 優秀深度學習論文中選取一組論文為大家進行純幹貨總結，該組包含8篇經典論文，主要講解卷積神經網絡CNN的經典結構以及針對不同任務進行的結構上的改進。由淺入深的講解，適合入門了解卷積神經網絡的整體網絡結構及發展過程——向著更深、複雜度更低的方向發展。
2. Top100論文導讀：深入理解卷積神經網絡CNN（PartⅡ）
摘要：作者從目前熱門的top 100 優秀深度學習論文中選取一組論文為大家進行純幹貨總結，該組包含8篇經典論文，主要講解卷積神經網絡CNN的經典結構以及針對不同任務進行的結構上的改進。由淺入深的講解，適合入門了解卷積神經網絡的整體網絡結構及發展過程——向著更深、複雜度更低的方向發展。
摘要：大家一定不會對近幾年來日益熱門的深度學習技術感到陌生。但是大家有沒有想過，構成深度學習基礎的深層卷積網絡並不複雜，為什麼這樣的結構解決實際問題時能夠取得如此神奇的效果？或許，我們可以從全息理論中找到答案。
4. 卷積神經網絡實戰（可視化部分）——使用keras識別貓咪
摘要：在近些年，深度學習領域的卷積神經網絡（CNNs或ConvNets)在各行各業為我們解決了大量的實際問題。但是對於大多數人來說，CNN仿佛戴上了神秘的麵紗。我經常會想，要是能將神經網絡的過程分解，看一看每一個步驟是什麼樣的結果該有多好！這也就是這篇博客存在的意義。
摘要：處理圖結構數據的佼佼者！
摘要：還在苦惱如何寫自己的CNN網絡？看大神如何使用keras11行代碼構建CNN網絡,有源碼提供。
摘要：本文主要和大家分享如何使用Tensorflow從頭開始構建和訓練卷積神經網絡。這樣就可以將這個知識作為一個構建塊來創造有趣的深度學習應用程序了。
摘要：這14 種原創設計模式可以幫助沒有經驗的研究者去嚐試將深度學習與新應用結合，對於那些沒有機器學習博士學位的人來說是一個很好的起點。
摘要: 本篇論文針對卷積神經網絡在訓練階段所需的大量存儲與計算資源，提出了一種改進的冗餘卷積核消除策略，精簡每個卷積層中冗餘的卷積核，進而降低模型訓練開銷，使模型訓練過程從雲端轉移至本地成為可能。
10. 能幫你更好理解分析深度卷積神經網絡，今天要解讀的是一款新型可視化工具——CNNVis，看完就能用！
摘要：深度卷積神經網絡（CNNs）在許多模式識別任務中取得了很大的性能突破， 然而高質量深度模型的發展依賴於大量的嚐試，這是由於沒有很好的理解深度模型是怎麼工作的，在本文中，提出了一個可視化分析係統CNNVis，幫助機器學習專家更好的理解、分析、設計深度卷積神經網絡。
NLP（自然語言處理）篇：
1. 一篇很好的參考文章：深度學習算法在自然語言處理中的一些心得
摘要：對於初涉深度學習的初學者，本文作者根據自己的學習經驗，分享了自己的學習筆記，是一份很好的關於深度學習的學習參考。
摘要：本次的主題是“word2vec”，主要是總結了Google公司的Mikolov等人關於詞向量的工作（以及你可以用它做什麼）。
3. 哪種詞向量模型更勝一籌？Word2Vec，WordRank or FastText?
摘要：本文在不同語料庫下分析了FastText,Word2Vec和WordRank三種詞嵌入模型的性能，發現沒有單獨的一種模型能夠用於不同類型NLP任務。
摘要：本文對著名的詞向量公式 king-man+woman=queen背後的原理進行了解釋。通過文章我們可以一窺詞向量算法在機器學習領域中對拚音文字語言處理上的出色結果。
5. 百度Deep Voice詳解分析：快速理解語音合成流程
摘要：本文介紹一篇關於Deep Voice的論文，Deep Voice是應用深度學習將文本轉換語音的係統，詳細分析了論文的創新點及其文本轉語音的具體過程，對每一步驟的輸入與輸出解釋得很清楚，相信對Deep Voice入門了解會有所幫助。
摘要：本文從最簡單的語言模型開始介紹，以優化模型性能為目標，由淺到深的介紹了神經網絡模型在語言模型中的應用。
7. 2017年ACL的四個NLP深度學習趨勢 （一）：語言結構和詞匯嵌入（Linguistic Structure and Word Embeddings）
摘要：作者通過分析2017年ACL的論文，以及演講內容，得出了四個NLP深度學習趨勢：Linguistic Structure 、 Word Embeddings、Interpretability 、Attention。今天我們就逐一分析一下這四個深度學習趨勢。
8. 2017年ACL的四個NLP深度學習趨勢 （二）：可解釋性和注意力（Interpretability and Attention）
摘要：作者通過分析2017年ACL的論文，以及演講內容，得出了四個NLP深度學習趨勢：Linguistic Structure 、 Word Embeddings、Interpretability 、Attention。今天我們就逐一分析一下這四個深度學習趨勢。
LSTM（時間遞歸神經網絡）篇：
摘要：本文介紹了LSTM的發展曆史，並且深入淺出的介紹了LSTM的核心思想（無非就是幾個高深莫測的公式），作者通過圖形化的方法解釋了公式，使得核心思想更加容易理解。
摘要：對於初入門的開發人員，如何為LSTM準備數據一直是一個問題。在為LSTM準備數據的過程中的確有很多需要注意的問題，閱讀本文可能會幫助你解決更多的問題。
摘要：LSTM在解決很多實際問題上效果非常好，通過本文你可以了解到在TensorFlow中，如何實現基本的LSTM網絡。
摘要； 還在為設計多輸入變量的神經網絡模型發愁？來看看大神如何解決基於Keras的LSTM多變量時間序列預測問題！文末附源碼！
摘要：神經網絡是機器學習中的熱門話題。但是網絡上有關LSTM在時間序列上的應用卻很少，我們不妨透過本文來開拓LSTM的應用視野。
本係列博客內容由北郵@愛可可-愛生活老師推薦，@阿裏雲雲棲社區組織翻譯，翻譯小組袁虎負責整理，校審：主題曲哥哥。本係列長期更新，更多關於深度學習優質好文，多多推薦！
最後更新：2017-10-04 23:33:00