956
技術社區[雲棲]
機器的自我進化
人類以為自己很強大，然而不過是一直在模仿大自然的造化而已，比如神經網絡多少受些人腦神經的設計影響。人類進步很快，製造工具，讓自己進入石器時代，後麵學會了讓機器製造機器進入了工業時代，現在人類的目標是讓機器設計機器，而這個正是用神經網絡（深度學習）完成的。
我們知道，我們大腦具有基礎的感知決策能力，而這些能力其實也是經過很多年被周圍人訓練出來的，隨著人類的勞動分工，越來越多的專業領域需要專業的知識，我們通過專業的教育，讓不同的人成為不同的領域的專家。教育本質就是經驗的灌輸，可能是規則，可能是不斷的將以前的案例教給大家。
一個神經網絡就和人類的大腦一樣，一開始它什麼都不是，沒辦法解決任何任務，為了能夠讓它具體完成一些任務，成為某個領域的專家，我們也要像對待學生一樣，不斷的灌輸數據（經驗），以及我們要達到的目標（目標輸出），那麼神經網絡內部就會自動學習，完成內部數量龐大的參數選擇，最後神奇的將自己變成了一個可以執行特定任務的機器了（譬如識別圖片裏的貓）。神經網絡理論上可以擬合任何函數，不管人類知道的還是不知道的，所以想象空間很大。
在深度學習崛起之前，神經網絡有三個問題沒有被解決：
- 沒有一個有效的初始化參數設置方式，導致陷入局部最優，最後效果反倒不如一些其他傳統的方法
- BP算法被提出前，梯度下降沒辦法被很好的利用，因為神經網絡本質上是對嵌套函數的優化求解
- 參數空間過大，計算能力不足，樣本也不足，容易陷入過擬合。大數據的崛起彌補了這幾個缺陷
現在我們是人工去訓練，我們也可以完全讓機器自己去尋找標注好的數據訓練出一個新的機器，實現自我設計和訓練，也就是自己的進化。
另外值得一提的是，大多數的機器學習算法都是輸出一個實數，而神經網絡可以輸出一個向量（矩陣），而這個向量是具有一定抽象和表征能力的高級特征集，譬如經過特定設計的神經網絡如卷積網絡可以將一些無意義的像素或者音頻特征轉化為具有表征能力的向量，如果用大腦來類比這種能力，其實就是講我們看到的，聽到的轉化大腦可以識別的信號了。
最後更新：2017-04-01 17:13:52