381
機器人
人工智能技術下對真理和生命的可解釋性“人工智能與未來社會：趨勢、風險與挑戰”學術研討會之三
上海社會科學界聯合會主辦主管
點擊播放
GIF/64K
以學術為底色 以思想為旗幟
人工智能技術下對真理和生命的可解釋性
熊紅凱 | 上海交通大學電子信息學院教授
人工智能，從上世紀50年代到現在起起伏伏。我最早不喜歡神經網絡的原因是在於它的不確定性，即最後輸出的結果是不確定的，今天深度學習卷積神經網絡的不確定性依然存在。當時從哲學意義上來講它是一種革新，所以大家很喜歡，到2005年又開始興起，起因是說它好像又非常好，把結果推廣到一些人類的競賽上。其實在美國機器學習學術界依然是兩派，一部分還是看不起深度學習，今天宣傳深度學習更多是工業背景。很多領域都開始嚐試深度學習，包括我們實驗室也做了3-4年，因為所有觀點和意見都要和深度學習方法對比，調網絡調一個月，很多時候是要靠調試員的經驗，因為有不確定性。
說人工智能是洪水勐獸，我更多的是從安全性角度來講。首先它的推動主體是企業，既然它具有不確定性，而且又是企業和資本來推動，我認為這對公眾安全存在問題，不透明，存在黑箱操作的空間。第二，它的技術本身，包括學界對深度學習排斥的一點在於不可解釋性，由於它本身來自於神經網絡，很多時候是靠窮盡局部的采樣特性和不明確的非線性，喪失了理論的簡潔和優美，如果科學的本意是告訴我們這個世界可以認知。相對我們原來竭盡心力，基於數學或者是幾何的原理解釋，理解明確的原因，最近我們兩三年一直在做的動機，現在從事的一些課題，就是希望確實能確認深度學習的可解釋性，同時嚐試從傳統的技術來演化深度機製，二者尋求共同性，單純從神經計算來似是而非的解釋，其實是不負責任的，知識應該是可追朔的，否則這種經驗是不可靠的，工具和方法必須要有原理來支撐！以前我們了解的傳統技術，在控製上都是有因果性來推動，我們希望能發展非常非常簡潔的算法。今天深度學習的算法不具有廣泛的一致性，從應用上，一個具有個性的深度學習算法，需要從小數據移植到大數據上去，也需要一套調試規則來闡述。
今天人工智能的深度學習，最大的推動力不在於算法，而是在於數據。其實現在這些大公司開源算法架構，隻是為了占領人工智能的生態，這是商業策略。也就是說數據才是最後關鍵的因素。一個最後的結果，它的不確定性和不可操作性來源於數據，即使同一個數據不同的人操作也不一樣，這就帶來很大的問題：公共安全性，把這運用到生命醫療，現在都認為是最重要的應用，但這方麵在美國就很謹慎。我們國家也在推動這方麵，也引起關注，各種各樣的數據被共享、被采納。首先，它是把雙刃劍，這東西帶來的危害我覺得會更大。想想看，迄今我們人類一切技術的發展，都是以超越我們人自身的限製作為推動的。那這個大數據共享深度學習會走到哪裏去，所有的機器都會聯網，成為單方麵龐大的力量，這個力量會決策我們每個人的命運。從倫理講，我不知道這將來會是什麼樣一種方式來決定我們個人的命運，因為我們原來所形成的知識是個人可認知和可掌握的，是科學性的，是自由且公平的，這是做研究的最大動力。
今天說人臉識別在什麼數據集下到了99%，不停刷性能，學術思想變成了各種排列組合的途徑，這其實沒有任何意義，學術的意義在哪裏？首先，我們要認識這個世界，我們想讓自身更自由一些，如果隻是為了得到最後的某個結果，其實長遠看沒有什麼太大價值。其次，要真實認識人工智能背後的基理所在，如果這個方式不解決，一旦壟斷在一些大公司手裏，現在跨國資本聯合，實際上來講是對我們個人的命運可能會很難。真實原因不在於機器，而是人性其實是不可靠的！
機器智能掌握在大資本手裏對個人的運營是很難的，如果機器背後產生自覺的智能，如果它的智能（今天，隻能說是計算和記憶的能力）確實超越了人類，按照自然法則來講高級智能是可以去除掉低級智能，就像我們人類對地球其他生物正在實施的，沒有什麼對等的倫理。機器會不會有自我發掘智能，什麼叫靈魂，值得反思！現在各行各業都在做計算機視覺和識別，單純從性能角度講提升都明顯，完全可以融合，決策的性能在穩步提升，這麼講吧，人工智能深度學習的感知能力越來越強。更值得注意的是，機器人的動力係統發展也非常快，結合起來就是一種新的“生物”。這種生物不智能的話（類似某種動物一樣），對我們有不確定的威脅；這種生物有智能的話，那就更具有危險性。也就是說，最後我們所麵對的不是倫理上像我們這樣的人。我其實很怕動物，總覺得它們不是我的同類，所以覺得“認為人工智能是洪水勐獸”還是很有道理的，因為對數據的操控性和選擇性，所有的人類能力都在機器人的載體上形成發展，不管是它操控在我的同類人手裏，還是即使它有良知，但它具有不確定性和不可解釋性，我都不認為是可以淡定的。因為這種能力的控製性，完全不可靠，而且它會不斷演化和發展。這會給我們這個人類世界帶來極大的不確定性。也許將來，人類的定義需要改寫。
我們現在也開始做一些大數據的信息加密，現在相關國際數據大企業都開始從事這種技術，信息被加密，在加密的基礎上進行大數據的分析和處理，產生的效果要和明文原始信息的分析的效果趨於一致，便於各個機構間的數據共享。由於深度學習依賴於數據，一方麵是數據驅動，一方麵也要依賴知識的引導來加速計算。
現在的深度學習是數據的大規模計算，但這個計算本身並不帶來知識，因為它隻關心輸入和最後輸出的結果。阿爾法GO在人類圍棋領域取得了巨大的成功，它以人類自古而有的棋譜作為標注的數據，以勝負作為最後的得失，所以每一步棋會計算最後勝算的概率。我們人類下圍棋盡管理論上有這麼多選擇餘地，但其實傳承積累下來的候選空間並不大，阿爾法GO計算得失，還有計算每步棋最後獲勝的概率，這是人類所沒有的。
（本文為熊紅凱在2017年8月28日由上海市社聯《探索與爭鳴》雜誌社和華東政法大學政治學研究院共同主辦的“人工智能與未來社會：趨勢、風險與挑戰”學術研討會上的主題發言，經本人整理，不代表本公眾號的立場。）
《探索與爭鳴》人間體
聯絡員小探
xiaotanxiaosuo
轉載 | 合作 | 谘詢 | 建議
長按掃碼加好友
END
人文社科學者的平台
《探索與爭鳴》
唯一官方微信平台
版權所有。歡迎個人轉發，媒體轉載請聯係授權
最後更新：2017-09-02 12:33:18