閱讀395 返回首頁    go 阿裏雲 go 技術社區[雲棲]


Top100論文導讀:深入理解卷積神經網絡CNN(Part Ⅱ)

https://yq.aliyun.com/cloud

Adrian Colyermorning paperAccel Partners

https://www.linkedin.com/in/adriancolyer/

Twitterhttps://twitter.com/adriancolyer


 top100

Return of the devil in the details: delving deep into convolutional nets,Chatfield,2014.
Spatial pyramid pooling in deep convolutional networks for visual recognition,He,2014.
Very deep convolutional networks for largescale image recognition,Simonyan

&Zisserman,2014.

Going deeper with convolutions,Szegedy,2015. 

篇論文是CNN已經在打敗了提取特征不是基於相同條件下ChatfieldIFVCNNPASCAL VOCCNN分別為KrizhevksyCNN-FFast1感知野的CNN-MMedium以及OverFeatCNN-SSlow

  • 增強將IFVCNN的性能提高了約3%翻轉隻能起到略微的作用,但翻轉結合裁剪效果很好。IFVCNN受到顏色信息添加或減少影響將圖像轉換為灰度後重新訓練CNN,會導致3%的性能下降。
  • 基於CNN的方法仍然優於淺編碼等方法10%的性能
  • CNNMCNNS均優於CNNFast 23%的性能;CNNMCNNS25%
  • 再次訓練CNN,最後一層較低的維數導致了邊緣性能提升 
  • 微調導致結果有顯著差異,提高約2.7%

論文CNN經驗結果顯著的性能。結果表明,ILSVRC性能另外SVM 


CNN的架構一般為以及Nsoftmax這種架構造成其隻是由於,導致效果
SPP,新層池化思想早CNN

SPP一層空間箱,空間箱的數量空間箱間隔尺寸 

373921e1bbdf53f9768307f8215ccca98f29d764

SPP表示 

輸入
SPP模型中AlexNetKrizhevskyOverFeat後," 因為層次

SPP之前RCNN需要找到2000,並利用卷積網絡提取每個窗口的特征,這種方法而又SPP,即對池化 

a267661f9b12c8c56dd0b95f737b00fe10a7be8d


之前了解了ConvNet的結果論文SimonyanZisserman保持不變
224 x 224 彩色並且歸一化3×3感知野1×1大小的卷積,1最大池化層池化;輸入到softmaxReLU函數
架構(注意使用了一個局部響應歸一化-LRN 

4d6b430af1a8703b51ee2c27554fc02a5d1cba8f

 

c11f64dadac4686dca0d0ae7db9de5b81233546f

局部響應歸一化反而架構ConvNet
19模型達到表中網絡B55×5卷積層的層網絡結果表明3×3的卷積層代替5×5卷積層後準確率提升了7%證實層網絡  

 

論文主要介紹Inception”網絡架構的實例“GoogLeNet”網絡2014 ISLVRCImageNet最好的結果GoogLeNet網絡22架構  

0cf4951466c4bf068dd03301d5fb7d8d110a6000

GoogLeNetKrizhevskyConvNet12精度顯著提升功率Inception
主要是基於針對應用於也是

你可以通過增加層數(深度)或者是每層的寬度”,將導致訓練以及

Arora來使用每一層
架構目前硬件設備
利用上使用Inception進行
Inception架構現成涵蓋
假設使用架構架構對該架構進行即可架構 

a0f1fd53ffec8ab08d4261377b06d7cff8bc2ba2

1×1單元3×35×5池化加入池化
涵蓋架構計算複雜度非常高、效率低
3×35×51×1降維。下圖Inception架構 

b9cbb6cf30ec036c127e8961c6c8fc866a2ff6e8

Inception模塊2池化
GoogLeNet2227模塊數量100傳遞將由於因此向)。Inception4a4d會根據權重疊加,測試時 

@

Convolutional neural networks, Part 2Adrian Colyer

pdf

最後更新:2017-05-01 08:01:17

  上一篇:go 華為中央研究院解析大數據商業模式
  下一篇:go 騰訊微博深挖社交數據大價值 為用戶立體畫像