364
機器人
《北京折疊》郝景芳：人工智能在彼岸，我們在此岸
內容來源：2017年11月5日，在騰訊第五屆WE大會上，中國科幻作家、第74屆雨果獎獲得者郝景芳所做分享，筆記俠作為合作方，經主辦方審核授權發布。
圖片| Holly kay責編| kay
第1831篇深度好文：5901 字 | 7 分鍾閱讀
完整筆記·人工智能
本文新鮮度：★★★★★口感：夏娃的時間酒吧
筆記君邀您，先思考：
如果哥倫布沒有發現新大陸對中國哪個菜係影響最大？
明年可以學英語，也可以學編程，你會選擇什麼？為什麼？
當你看到一位老人跌倒了，怎麼做？
（這三個問題在文章中均有討論）
我今天作為一個科幻小說家被邀請，所以就輕鬆一點，給大家講講故事。
講的有關人工智能的故事。
一、給人工智能做測試
前些日子看過一部電影叫《機械姬》，講一個很有錢的老板請了一個科學家去幫他測試他的人工智能能不能通過圖靈測試。
我今天要講的故事是前一段時間又有一個老板，他請我過去，說你作為一個科幻作家幫我測一測我剛剛花了大價錢買的人工智能機器不能通過圖靈測試。
筆記俠注：圖靈測試是目前認為判斷人工智能是否達到人類智能的一種方法。
讓人類與人工智能/人的對話，如果這個人能判斷出對方是人工智能，則還沒有達到人類智能；如果不能分辨出對方是人還是人工智能，則認為這個人工智能已經等同於人類的智能了。
我問，你這個機器是什麼算法，什麼原理？他說就是現在最流行深度學習、強化學習、大數據學習。
我說，好，我用三個小測試就能幫你測出來，我猜它是不能通過圖靈測試的。這三個小測試很簡單，就是我們人都會的，但是機器現在都不會的測試。
郝景芳女士演講現場
第一個測試題：如果哥倫布沒有發現新大陸對中國哪個菜係影響最大？
答案是川菜。
這個題目對我們人類實在是太簡單了，我們都知道哥倫布從美國帶回了南瓜、玉米、紅薯、花生、辣椒，還有很多別的食物。
對哪個菜係影響最大？對於吃貨界來講，也不難回答，如果沒有辣椒，就沒有川菜，所以肯定是對川菜影響最大。
而這是個涉及到我們日常生活常識的題目，盡管所有的其他食物也很重要，但是隻有辣椒這個靈魂式的調味品受的影響最大。
但是，對於人工智能，這是一個跨界問題，它涉及到曆史、日常生活的常識、飲食。對這種跨界問題、常識問題，人工智能是答不出來的。
第二個測試題：找位女士對人工智能說她沒想到今天這麼冷，看人工智能如何回複。
人工智能如果回複給她一個天氣預報，肯定不是她心裏希望的。
假設一個女孩子對你說了這樣的話，她希望你怎麼回複她？抱抱？這沒有唯一的答案，回複要看你和她的關係；要看這個女孩子有著怎樣的個性；也要看當時是在一個什麼樣的場合下。
如果真的是一個跟你關係很不錯，有一點曖昧的可愛的姑娘、萌妹子，說這個話也許是想讓你把衣服給她，然後順便抱抱。
但是如果不是這樣的場合，是一個女老板，剛正不阿的女上司，她說沒想到今天這麼冷，那你說我抱抱您吧，她說不定會給你一巴掌。
因為她可能是跟你說，你的工作是失職的，為什麼沒有給我把房間弄得更暖和一點，這個時候你得趕緊說對不起老板，我下次給您提前安排。
所以，這是一種當對方說出一句話的時候，他心裏的意思、他希望我們的回應，完全因人而異的問題，需要我們能夠察言觀色，能夠體察對方、理解他人的心思才能夠給出正確答案。
我說，這種問題人工智能是不會解答的，測這個問題它肯定不行。
第三個測試題：明年可以學英語，也可以學編程，你會選擇學什麼？為什麼？
這種問題對於人類來說也很容易的，我們每天都在看形形色色的廣告，每天被各種各樣的信息充斥，我們能夠根據我們自身選出自己想要的。
但這也是沒有正確答案的問題，因為實際上該學什麼，你要知道自己是一個什麼性格的人，夢想是什麼，未來的目標是什麼，要想達到目標該怎麼做，都要從你自身找答案，答案和原因都要根據你自己來做。
人工智能它們沒有這種元認知能力，不理解自己，並不能夠為自己做決定。當你跟AlphaGo說下圍棋，它不會說我不要下圍棋，我今天想去看場電影，因為它並沒有對於自我的了解、自我的認知。
所以我說這種能夠從自己出發做決定的能力，也能夠看得出來人工智能和人的區別。
圖源：360圖片
然後老板就問我說，可是你說的這幾個東西在我聽起來實在是太簡單了，AlphaGo都這麼厲害了，AlphaGo Zero在已經戰勝了原本的AlphaGo，它不能很快就學會嗎？
我說那我們要來看看AlphaGo它會什麼、不會什麼。AlphaGo厲害的地方在於深度學習、強化學習，它有很強的算力、有大數據。
深度學習是一種神經網絡，是一種基於大數據的統計的算法，模仿了我們大腦皮層的神經網絡，能夠從很多的數據裏麵找到規律，自己學到最好的算法。
它和過去上一代的人工智能最大的不一樣就是上一代的人工智能經常是專家係統，專家告訴你怎麼下棋你就怎樣下棋，但是這一代的人工智能用了這樣深度學習的辦法，可以自己學會下棋的套路。
但是非常有局限性，因為這樣的深度學習算法它隻能夠處理數據透明、規則明確的一個特定領域的問題。
也就是說，在一個特定的邊界裏麵，處理這個邊界裏麵的數據，然後找到最好的結果。
AlphaGo並不知道它自己在下圍棋，也不知道自己是AlphaGo，不知道它戰勝了世界上所有的高手，它下了圍棋也不會高興。
它隻是在處理一些數據，並沒有我們剛才說過的一些高層次認知能力，自我認知能力，自我意識能力。
然後老板說，我知道現在算力是進展很快的，過幾天我們計算能力又上了一個新台階，你說的這些高級能力是不是就能夠學會了呢？
我說，其實我相信未來總有一天人工智能會克服這些難關，學到我剛才說的這些能力。
但是，這是階梯狀的，並不是拿現在的算法增強算力，就一定能夠解決所有的問題，而是要跨過一個又一個檻，上一個又一個台階。
這就像是當時發明了蒸汽機、電，人們就覺得自己能夠解決世界上所有的問題了。物理大廈就剩下了三朵小烏雲，後來就是這三朵小烏雲提出了相對論、量子力學，把人類帶入了新的世界。
二、人工智能頭上的“3朵小烏雲”
我說，未來可能會實現，但是它需要有很大的鴻溝、很大的跨越，才能夠實現。
現在人工智能頭上三朵小烏雲的就是綜合認知能力、理解他人的能力、自我決定的能力。
1.綜合認知的能力困難在哪？
現在的深度學習網絡，一個網絡隻能學習一件事情，當它學習了下圍棋，把圍棋領域的數據都學會了之後，它的整個網絡記住了這一件事情，一旦這個網絡再去學另外一件事情，就會把前一件事情忘記了，因為它是用整個網絡所有的參數來學習了這一件事情。
這個在科學界被稱為“遺忘的災難”。一個網絡，一個這樣的人工智能隻能幹一件事情，隻能在一個特定領域裏麵做一件狹窄的事情，不可能像我們人一樣有通識的能力。
我們人和人工智能很大的不同，就是我們人是觸類旁通的。
當我們學習了政治、經濟、曆史、社會文化、家庭日常生活的做飯、交通出行，我們不會認為這些都是不同領域的事情，我們是把它融會貫通，融在一起。
人類在我們的頭腦當中有一個世界模型，很多時候我們並沒有意識到這個世界模型的存在，但是這個世界模型非常重要，它就是我們對物理世界，對於人情世故等常識的來源。
當我們有了這樣的世界模型，在我們在看眼前的一幅畫麵二維畫麵的時候，我們會用自己頭腦當中的知識，把這個畫麵構建成一個三維的，栩栩如生的畫麵。
例如，我們現在看到禮堂、舞台、座位，我們會覺得這是一個有縱深的、三維的舞台。可是人工智能沒有這樣一個世界模型，它分辨圖象要用非常非常多的計算來做。
現在有一些實驗室已經開始試圖用這樣一個模型來構造這樣的視覺。
但我們人類的頭腦當中都有這樣的模型，我們有關於世界的理解、關於他人的理解，關於整個社會的理解。
我們的常識係統，這種通識知識體係，是我們理解事情的基礎，也是我們超越人工智能的地方。
2.理解他人的能力。
現在的技術已經可以進行一些人工智能和人的語言對話，但隻有在特定領域的專業問答，可以有比較好的答案匹配，自然語言處理仍然還是一個難題。
為什麼自然語言處理會難呢？
首先，因為實際上人工智能還仍然不能理解大量的情景，就是因為它的頭腦裏沒有對人類世界、物理世界、人情世界的通識知識體係，所以要理解很多的自然情景會很困難。
現在的語言很多時候是用的這樣一個優化算法的搜索，你出了一個問題，它去搜索一個答案匹配給你，但是很多時候並不能夠真正理解你的意思。
此外，人工智能由於沒有豐富的情感世界，並不能夠推己及人。
我們人類是怎樣相互了解彼此的？
第一，我們用目光接觸。
研究共情（也稱為神入、同理心、同感、同理心、投情等）的學者會發現，靈長類之一的大猩猩可以通過這樣的目光交流，人類絕對可以通過目光來理解對方，小孩子大概從9個月的時候就開始有這種能力。
我們頭腦中有鏡像神經元，鏡像神經元可以直接反映出對方的一些意圖和對方的感受，我們能夠直接感受到對方。
第二，我們有推己及人的能力。
我們生病的時候希望對方噓寒問暖，我們就能夠推導出對方生病的時候，一定希望我們噓寒問暖，而人工智能由於沒有這樣的內部的情感，自然也很難推己及人。
人工智能在理解他人的能力方麵，目前還是有很多的困難。我也知道有很多實驗室，現在已經開始試圖把整個的認知框架、認知模型帶到自然語言處理上，但是成果可能是很久很久以後的事情。
3.自我決定的能力。
自我決定的能力需要兩個方麵的突破：一個是自我表征的能力。人工智能需要能夠自己說出來，我自己做這個事情是為什麼。
這種真正提取出對於自己來說有意義的因果表達能力，它使得我們做很多事情可以舉一反三，可以泛化，我們可以從一件事情學到的東西，可以帶著這樣的因果關係用到另外的事情。但是，人工智能在很多時候缺少這樣的語言認知能力。
另一個是人工智能要說出“原來這就是我呀。”這樣的一種自我意識。然而不知道要到未來多久之後才會產生。
其實人工智能目前並不是一個獨立體係，不像我們人類，每個人所有的思想、靈魂都封閉在身體裏，並不能隨時聯通到互聯網，而人工智能很多時候是要與其他的網絡去連接、聯通。
所以，這樣的孤立的自我意識，很可能跟我們人完全不一樣。
現在這幾朵小小的烏雲是人工智能目前不能做到的和我們人類一樣的地方，未來有沒什麼可能突破呢？
有可能，雖然不是現在，因為不僅僅要靠算力提高，還需要有更好的、更強的綜合性算法，以及更多技術突破。
三、如何讓人工智能達到更高的水平？
這時老板就問我說，你覺得人工智能未來人如何才能達到一個更高水平的智慧呢？我說其實最好的方法就是更多地了解我們人自身，理解我們人類自身的心智係統是什麼樣的。
人工智能能夠在一個領域裏麵做到極致，但是我們人是一個自我綜合協調的係統，並不是單一心智。
人工智能學家馬文·明斯，1985寫過一本書叫《心智社會》，把人比作一個社會，人的心智裏麵的每一部分，都像一個小人一樣，眾多小人在一起組成了一個完整的、複雜的社會。人並不是有單一心智的。
馬文·明斯在《情感機器》中說，“我認為人類的尊嚴來自於人類自身的構造，處理多種情況和困難的不計其數的方法和多樣性正是人和動物，與過去所知道的機器的主要區別。”
這是什麼意思呢？現在很多時候，當我們製造機器的時候，我們總想尋找一種通用智能，就是用這一個智能解決所有的問題，但人類其實不是這樣的。
人是綜合智能，在人的頭腦裏麵有不一樣的智能進行問題處理。
當我們在街上看到一個車過來的時候，杏仁核發出警報，告訴我們危險要躲開；
當我們看到一個老人摔倒在街上，一種同情憐憫之心讓我們想把他扶起來，但是一個批判的聲音說，他有可能是騙子要躲開，但是又有一個正義的聲音說，即使他是騙子，這樣可憐的老人我是不是應該幫助他。
但是還會有一個綜合的，從一個全景的的角度會去分析這個時候的形勢、分析這個時候個人的情況、分析這個時候社會的狀況，可能會報警，也可能會介入處理當時的狀況。
所以在任何一個情形下，我們其實並不是用統一的單一的智能來進行處理日常的情況，我們的頭腦中其實有很多聲音。
人工智能目前隻是一個絕頂的武林高手，但對於我們任何一個人來說，我們的頭腦裏都是一個武林門派，更多的是一種綜合處理，統一協調的係統性方法。
所以我覺得，在未來，其實人工智能的下一步發展，不管往哪個方向，要讓它處理綜合的、多功能的、多能力的、多目標的任務的相互協調，或者多種價值觀、多種任務的相互協調，都需要我們更多地去理解人類的大腦、理解我們人類的心智係統。
四、對“圖靈測試”的思索
我跟老板說了這些以後，老板就說好吧，那我幹脆就不要測了，既然人工智能肯定答不出這些問題，我就幹脆把這個機器退貨吧。
我說不行，耳聽為虛，眼見為實，我說的都很理論，我們現在真實的測一測，看看人工智能到底如何回答這些問題。
大家都知道圖靈測試的方法，將人工智能和人安排在一個幕布後問他們同樣的問題。
第一個問題，人工智能說不知道，人也說我不知道。
第二個問題，人工智能說不知道，人說我怎麼知道他心裏怎麼想的。
第三個問題，人工智能說不知道，而人也說，其實我也不知道我接下來想幹什麼。
當我們反複測試後發現，我們認為人工智能不能回答的問題，人也不能回答，人們也“沒想好”。
這個時候，不是人工智能無法通過圖靈測試，而是人無法通過圖靈測試。
所以，如果這些問題我們也不知道如何回答，那麼其實我們是看不出我們和人工智能的區別的。
如果我們沒有了這些綜合認知能力，如果我們也不能理解他人，如果我們也沒有了自我表征和自我決斷能力，那麼其實我們就無法和人工智能做出區別。
五、人工智能之於人類
人工智能最大的威脅是什麼？是誤傷人類嗎？不是，汽車也會誤傷人類。
是故意毀滅人類？也不是，因為實際上人工智能離故意毀滅我們還有很遠。
是取代工作嗎？仍然不是，它們會取代一部分工作，但是他們也會製造出更多的就業崗位。
人工智能對我們最大的威脅就在於，當我們過於依賴很多的數據係統後，如果我們自己變得懶於思考、懶於自我反思，而讓我們自己的智慧退化。
我們所有的人天生與生俱來，帶著我們億萬年生物進化所具有的大腦先天的功能。大腦有很多神奇之處，我們自己都沒有完全的發掘。
而我們人所具有的這種心智係統，實際上是有很強的綜合能力，是一個智慧係統。
我們隻有更多地認識到這點，認識到我們和人工智能的不同，理解它有哪些地方是強於我們的，同時理解到我們有哪些地方和它們不一樣，能夠把我們自己真正不一樣的地方發揮出來，我們才不會讓我們自己的智能退化，才不會讓我們的文明退化。
所以在我看來，未來人工智能和人會走兩條非常不一樣的路，人工智能會做到許許多多我們人類做不到的事兒，會是我們的輔助、是我們的工具。
而我們人如果讓智能在一直不斷地向前進，是可以一直和人工智能攜手同行的，不存在威脅不威脅的事情。
我覺得人工智能最大的意義就是它讓我們更多地理解我們自身。
對人工智能思考越多，我們會發現我們自己的心智係統是越神奇的。我希望，我們能越了解人工智能，也能越發了解我們自己。
人工智能在彼岸，我們在此岸。通過對彼岸的遙望，我希望我們能更多地理解我們此岸的人類，希望我們能夠有更全景、更宏觀的視角看待我們的地球、看待我們的世界。
我們都能有一個綜合全麵的世界的模型，希望我們每個人都能更多的去理解他人的心思、理解我們自己的心思，能夠為自己做出決斷。所有這些都是人類智慧的最精髓的部分。
今天我講的故事純屬杜撰，但是我將對於人工智能的思考，凝結成六個故事和兩篇文章，在我的新書《人之彼岸》裏講述。我希望我們能夠通過對人工智能的思考更多地了解我們此岸的人類。謝謝大家！
《人之彼岸》
最後更新：2017-11-07 03:15:10