摩爾定律失效後,AI如何保持快速發展?
更多深度文章,請關注雲計算頻道:
https://yq.aliyun.com/cloud
本月初,穀歌CEO Sundar Pichai在跟開發者分享從他的機器學習實驗室得到的結果時,他表現的非常興奮。因為他們實驗室的研究人員,已經找到了自動化生成機器學習軟件的方法。並且他們也發現,這個方法很容易就能部署到新的情景和行業內。
不過,該項目在AI研究領域內名聲大噪的另外一個原因就是,它成功的證明了在機器學習領域競爭,計算資源(計算能力)才是取勝的關鍵。
一篇來自穀歌的論文研究表明,在這個項目中,他們同時使用了800多個功能強大並且非常昂貴的圖形處理器(GPU)。GPU的使用,對近期機器學習能力的提高起到了至關重要的作用。(詳見:2013年10大突破性技術:深度學習)他們告訴《麻省理工科技評論》,這個項目已經持續使用這些芯片兩周。僅僅這一個研究項目就消耗了大量的資源,即使像穀歌這樣有錢的公司,也難以承受如此大的開銷。
對於無法訪問大型GPU集群的研究人員來說,做這樣的實驗就意味著要有大量的研究經費。如果從亞馬遜的雲計算服務中心租用800個GPU,一周就需要大約12萬美金的開銷。
比起運行深度學習的軟件,訓練深度學習軟件所消耗的資源更加龐大。計算能力對於現在的機器學習來說,算是一個瓶頸。斯坦福大學的副教授Reza Zadeh如是說,同時Reza Zadeh還是Matroid的創始人兼首席執行官,Matroid是一家利用軟件幫助企業來識別視頻中人和車的公司。
人工智能的發展需要在計算能力不斷的有所突破,但是不幸的是計算行業賴以生存了50年的兩大定律卻正在漸漸的走向滅亡,一個是“摩爾定律”,它曾預測每兩年,相同麵積的芯片上的晶體管數量將會翻倍;另外一個是Dennard縮放比例定律,它指出當晶體管變小時,它們的功耗如何按比例縮小。
今天,這兩個昔日輝煌的定律都不在適用了。英特爾已經減緩了引入更小,更密集的晶體管的步伐。(詳見:Moore's Law is dead.Now What?)在20世紀中期,隨著晶體管的不斷變小,晶體管的使用效率就很難得到提升,所以能耗成為了最頭疼的問題。
押注人工智能的一個好消息是,圖形芯片目前已經成功的進入到人們的視野中。最近,全球領先圖形芯片英偉達的首席執行官黃仁勳向公眾展示了一個圖表,該圖表顯示,英偉達芯片的性能在以指數級加速,相比之下通用處理器CPU的性能提升已經減緩。
致力於將新技術商業化的微軟NEXT的工程師Doug Burger表示,傳統軟件和機器學習軟件之間也有類似的差距(暗指CPU和GPU之間的差距)。他說:“目前,通用軟件的性能已經到了一個停滯期,但是人工智能卻還在迅勐的發展。”
Doug Burger還認為,這種趨勢還會繼續下去。工程師們會讓GPU變得越來越強大,因為GPU可以更專業的處理圖形或者機器學習中所需要的數學問題。
同樣的理念還出現在Doug Burger在微軟領導的一個項目中,它通過使用被稱作是FPGAs的可重構芯片為人工智能軟件提供了更加強大的計算能力。它同樣激勵著一些初創公司和巨頭,比如說穀歌——創造一種特殊的芯片去驅動機器學習。(詳見:google reveals a powerful NEW Ai Chip and Supercomputer)。
從長遠角度來看,要使人工智能更加強大,計算機芯片必須更加徹底的改變。開發特定的芯片是一個主要的方向,現實情況已經證明,這些芯片確實能夠使計算機效率更高,並且不會損害機器學習軟件輸出結果的準確性。(詳見:Why a Chip That’s Bad at Math Can Help Computers Tackle Harder Problems)。
芯片的設計直接複製生物結構也可能會成為未來的一個新的方向,IBM和其他公司已經構建出使用尖峰電流進行計算的芯片原型,其計算過程類似於人類神經元的激發過程。(詳見:Thinking in Silicon)
Burger說“一些簡單的動物,能夠用很少的能量實現的功能就超過了今天我們機器人,不得不承認的是,在這些行為中一定存在很多提高性能和效率機製等待著被我們發現。”
畢竟人工智能這條路才真正的開始,我們可以從人類的神經網絡中獲取算法模型。或許我們也可以從人類的神經網絡中獲取更多的啟發。在人工智能這條道路上,我們還需要花費很長的時間。
作者介紹:
Tom Simonite 麻省理工技術評論在舊金山總編輯。曾經在劍橋大學倫敦帝國學院和新科學家雜誌工作過五年。
本文由北郵@愛可可-愛生活推薦,阿裏雲雲棲社區翻譯。
文章原標題《How AI Can Keep Accelerating After Moore’s Law》
作者:Tom Simonite,譯者:袁虎,審閱:我是主題曲哥哥
文章為簡譯,更為詳細的內容,請查看原文
最後更新:2017-06-06 07:34:34