339
機器人
雨果獎得主郝景芳：人工智能最大的威脅是，讓人類的智慧退化
小明評測智能家居網訊：11月5日，騰訊第五屆WE大會開幕。2017年是騰訊創辦WE大會的第五年，而今年大會的主題是”若有光”，引自陶淵明在一千六百年留下的名篇《桃花源記》——“林盡水源，便得一山，山有小口，仿佛若有光”，寓意人類對若隱若現的未來之光的不舍追尋。
正當人們還在討論《銀翼殺手2049》裏複製人和人類之間的愛恨情仇時，沙特阿拉伯已經授予 “女性”機器人索菲亞公民身份，成為史上首個獲得公民身份的機器人。人工智能到底會幫助人類，還是將人類帶向毀滅深淵？中國科幻作家、第74屆雨果獎獲得者郝景芳在演講中認為，長時間內人工智能無法超過人類，由於沒有人類機體的生理基礎，人工智能產生不了人類的高級情感我們人類的大腦是一個很複雜的體係，還有很多部分是人工智能現在不容易具備的。“人工智能的最大威脅主要表現在，讓人類變得懶於思考、懶於自我反思，從而使得人類智慧退化。”
郝景芳表示，在即將到來的人工智能時代，人類應該反觀人工智能，幫助認識自身，去對人類人性、智慧進行更深入的理解，隻有這樣才能夠讓整個人類文明往前進一步。
以下為郝景芳演講實錄：
大家好，今天站在這個舞台上我是最激動的，因為我自己現在並不是一個科學家，雖然我以前學天體物理，但是現在並不做科學研究，所以和這麼多真正的科學家站在同一個舞台，我實在是非常非常的激動，所以很感謝大會的邀請。
我今天是作為一個科幻小說家被邀請到這個舞台上，所以我就輕鬆一點，給大家講講故事。
我要講什麼故事？是講的有關人工智能的故事，人工智能這兩年真是太火了，從去年開始就有很多人一直在談論，人工智能現在已經戰勝了圍棋世界第一的高手，人工智能什麼時候全麵地戰勝人類？他們會不會超越人類？會不會全麵的取代人類，甚至會不有一天毀滅人類呢？
我們前些日子都看過一個電影叫《機械姬》，裏麵有一個很有錢的老板請了一個科學家去幫他測試他的人工智能能不能通過圖靈測試。
三個測試，AI是否能通過圖靈測試
我今天要講的故事是前一段時間又有一個老板請我過去，說你作為一個科幻作家幫我測一測。我剛剛花了大價錢買的人工智能機器，你幫我測一測它能不能通過圖靈測試。我說好，你這個機器是什麼算法，什麼原理？他說就是現在最流行深度學習、強化學習、大數據學習。我說好，我用三個小測試就能幫你測出來，我猜它是通不過圖靈測試的。這三個小測試很簡單，他說什麼三個小測試？我說就是我們人都會的，但是機器現在都不會的測試。
第一個測試題，如果哥倫布沒有發現新大陸對中國哪個菜係影響最大？這對我們人類實在是太簡單了，我們都知道哥倫布從美國帶回來了南瓜、玉米、紅薯、花生、辣椒，還有很多別的食物。那麼哪個食物影響最大？對於我們吃貨界來講，也不難回答，當然是辣椒。如果沒有辣椒，當然沒有川菜，所以肯定是對川菜影響最大。
而這個涉及到我們的日常生活的常識，盡管所有的其他食物也很重要，但是隻有像現在這樣一個靈魂式的味覺食物，它能夠調味，才對菜係影響最大。
所以對於人工智能來講這是一個跨界問題，它涉及到曆史，也涉及到日常生活的常識，也涉及到飲食對這種跨界問題、常識問題，人工智能是答不出來的。我跟老板說你就測試它這第一問題。
第二個測試題，她說沒想到今天這麼冷，她希望你如何回複它？人工智能如果回複給她一個天氣預報，肯定不是他心裏希望的，如果一個女孩子說了這樣的話，她希望你怎麼回複她？抱抱？這也不是唯一的答案，答案要看你和她的關係，要看這個女孩子她是一個什麼樣的個性，也要看當時在一個什麼樣的場合下。如果真的是一個跟你關係很不錯，有一點曖昧的可愛的姑娘、萌妹子，也許說這個話，是想讓你把衣服給她，然後順便抱抱。
但是如果這個時候不是這樣的場合，是一個女老板，剛正不阿的女上司，她說沒想到今天這麼冷，那你再說我抱抱您吧，她肯定一個耳刮子就扇上來了。這個時候她可能是跟你說，你的工作是失職的，為什麼沒有給我把房間弄得更暖和一點，你這個時候趕緊得說對不起老板，我下次給您提前安排。
所以這是什麼問題，就是對方當他說一句話的時候，他心裏的意思，他的含義，他希望我們的回應，這是完全因人而異的，這是需要我們能夠察言觀色，能夠體察對方、理解他人的心思才能夠給出正確答案。我說這種問題人工智能它是不會做的，您放心我幫您測這個它肯定不行。
第三個測試題，明年可以學英語，也可以學編程，你會選擇學什麼？為什麼？這種問題對於我們人來講也很容易的，我們每天都在看大量形形色色的廣告，每天都被各種各樣的信息充斥，我們在其中能夠根據我們自身選出我們自己想要的，這也是沒有正確答案的問題，因為實際上該學什麼，要從你自身找答案，你要知道你是一個什麼性格的人，你的夢想是什麼，你未來的目標是什麼，你想要達到目標要怎麼做，根據你自己的自身情況來決定學什麼。
人工智能它們不理解自己，它們沒有這種元認知能力，他們並不能夠為自己做決定，當你跟AlphaGo說下圍棋，它不會說我不要下圍棋，我今天想去看場電影，它不會做這樣的決定，因為它並沒有對於自我的了解、自我的認知。
所以我說這種能夠從自己出發做決定的能力，也能夠看得出來人工智能和人的區別。
人工智能頭上三朵小烏雲
然後老板就問我說，可是你說的這幾個東西在我聽起來實在是太簡單了，AlphaGo都這麼厲害了，AlphaGo Zero在已經戰勝了原本的AlphaGo，它不能很快就學會嗎？我說那我們要來看看AlphaGo它會什麼、不會什麼。AlphaGo厲害的地方在於深度學習、強化學習，它有很強的算力、它有大數據。深度學習是一種神經網絡，是一種基於大數據的統計的算法，模仿了我們大腦皮層的神經網絡，能夠從很多的數據裏麵找到規律，自己學到最好的算法。它和過去上一代的人工智能最大的不一樣就是上一代的人工智能經常是專家係統，就是專家告訴你怎麼下棋你就怎樣下棋，但是這一代的人工智能用了這樣深度學習的辦法，可以自己學會下棋的套路。但是它是非常有局限性的，因為這樣的深度學習算法它隻能夠處理數據透明規則明確的一個特定領域的問題。
也就是說，在一個特定的邊界裏麵，處理這個邊界裏麵的數據，然後找到最好的結果。它並不知道它自己在下圍棋，它也不知道它是AlphaGo，它不知道它戰勝了世界上所有的高手，它下了圍棋也不會高興，它隻是在處理一些數據，但是它並沒有我們剛才說過的一些高層次認知能力，自我認知能力，自我意識能力。
然後老板說，我知道現在算力是進展很快的，過幾天我們計算能力又上了一個新台階，你說的這些高級能力是不是就能夠學會了呢？我說，其實我相信未來總有一天人工智能會克服這些難關，學到我剛才說的這些能力。但是，這是一個階梯狀，並不是拿現在的算法增強算力，就一定能夠解決所有的問題，而是要跨過一個又一個檻，上一個又一個台階。這就像是當時發明了蒸汽機、電，人們就覺得自己能夠解決世界上所有的問題了，物理大廈就剩下了三朵小烏雲，後來就是這三朵小烏雲提出了相對論、量子力學，把人類帶入了新的世界。
我說，未來可能會實現，但是它需要有很大的鴻溝、很大的跨越，才能夠實現。
現在人工智能頭上三朵小烏雲的就是綜合認知能力、理解他人的能力、自我決定的能力。
綜合認知的能力困難在哪？現在的深度學習的網絡，一個網絡隻能夠學習一件事情，當它學習了下圍棋，它把圍棋領域的數據都學會了之後，它整個網絡記住了這一件事情，一旦這個網絡再去學另外一件事情，這個網絡就把前一件事情忘記了，因為它是用整個網絡所有的參數來學習了這一件事情，一旦學習另外一件事情，它就已經不會記得前一件事情所有的參數。
這個在科學界被稱為遺忘的災難，一個網絡，一個這樣的人工智能隻能幹一件事情，隻能在一個特定領域裏麵做一件狹窄的事情，不可能像我們人一樣有通識的能力，我們人和人工智能很大的不同，就是我們人是觸類旁通的，當我們學習了政治、經濟、曆史、社會文化、家庭日常生活的做飯、交通出行，我們不會認為這些都是不同領域的事情，我們是把它融會貫通，融在一起的。
人類在我們的頭腦當中有一個世界模型，很多時候我們並沒有意識到這個世界模型的存在，它就是我們對物理世界，對於人情世故這個世界常識的來源，但是這個世界模型非常重要。
當我們有了這樣的世界模型，我們在看眼前的一幅畫麵，明明是一個二維畫麵，我們會用自己頭腦當中的知識，把這個畫麵在我們眼前構建成一個三維的，栩栩如生的畫麵。我們現在看到麵前的禮堂、舞台、座位，我們會覺得這是一個有縱深的，三維的舞台。可是人工智能沒有這樣一個世界模型在自己的頭腦當中，它分辨圖象要用很多很多真的圖象，非常非常多的計算來做。
現在有一些實驗室做這樣的視覺，已經開始試圖用這樣一個模型來構造這樣的視覺。而我們的頭腦當中都有這樣的模型，我們有關於世界的理解、關於他人的理解，關於整個社會的理解，我們的常識係統，這種通識知識體係，是我們理解事情的基礎，也是我們超越人工智能的地方。
第二理解他人的能力，理解他人的能力，現在是有一些人工智能和人的語言對話，自然語言處理仍然還是一個難題，隻有在特定領域的專業問答，可以有比較好的答案匹配，為什麼自然語言處理會難呢？就是因為人工智能實際上還仍然不能理解大量的情景，就是因為它的頭腦裏麵沒有對人類世界、物理世界、人情世界的通識知識體係，所以他理解很多的自然情景都會很困難。
現在的語言很多時候是用的這樣一個優化算法的搜索，你出了一個問題，它去搜索一個答案匹配給你，但是很多時候並不能夠真正理解對方的意思。
此外人工智能由於沒有內心豐富的情感世界，並不能夠推己及人。我們人類是怎樣相互了解彼此的呢？有幾個方法，第一個我們用目光接觸。研究共情的學者會發現，最先進的靈長類的大猩猩可以通過這樣的目光交流，人類絕對可以通過目光來理解對方，小孩子大概從9個月的時候就開始有這種能力。我們頭腦當中有鏡像神經元，鏡像神經元可以直接反映出對方的一些意圖和對方的感受，我們能夠直接感受到對方。
另外，我們有推己及人的能力，在這個時候，當我們生病的時候，希望對方噓寒問暖，我們就能夠推導出對方生病的時候，一定希望我們噓寒問暖，而人工智能由於沒有這樣的自己內部的情感，它自然也很難推己及人。
人工智能在理解他人的能力方麵，目前還是有很多的困難。我也知道有很多實驗室，現在已經開始試圖把整個的認知框架、認知模型帶到自然語言處理上麵，但是可能是很久很久以後的事情。
第三個自我決定的能力，它得需要兩個方麵的突破，一個是自我表征的能力，人工智能需要能夠自己說出來，我自己做這個事情是為什麼。現在我們的智能網絡，當它學會了一件事情，你給到它很多數據，它直接給你說出一個結果，我們人並不知道它為什麼這麼做，它自己也說不出來為什麼這麼做。這種真正提取出對於自己來說有意義的因果表達能力，它使得我們做很多事情可以舉一反三，可以泛化，我們可以從一件事情學到的東西，可以帶著這樣的因果關係用到另外的事情。但是，人工智能在很多時候缺少這樣的語言認知能力。
此外，人工智能並沒有一個說，原來這就是一個我，這樣的一種自我意識，可能未來要到很久之後才會產生，不知道要到什麼時候，其實人工智能目前並不是一個獨立體係，不像我們人與人，我們每個人所有的思想、靈魂都封閉在我們同一個身體裏麵，我們並不能隨時聯通到互聯網，但是人工智能不一樣，很多時候是要與其他的網絡去連接、聯通。
所以，這樣的孤立自我意識，很可能跟我們人完全不一樣。
現在這幾朵小小的烏雲是人工智能目前不能做到和我們人類一樣的地方，未來有沒什麼可能突破呢？有可能，但是不是現在，不僅僅靠算力提高，需要有更好的、更強的綜合性算法，以及更多技術突破。
AI是武林高手，人類則是武學門派
這個老板就問我說，你覺得人工智能未來怎麼達到一個更高水平的智慧呢？我說其實最好的方法就是更多地了解我們人自身，去理解我們人類自身的心智係統是怎麼樣的。人工智能能夠在一個領域裏麵做到極致，但是我們人是一個自我綜合協調的係統，我們人並不是一個單一心智的，我曾經最喜歡的人工智能學家馬文·明斯，1985寫過一本書叫《心智社會》，其實是把人比作一個社會，人的心智裏麵每一部分，其實都像一個小人一樣，小人在一起組成了一個完整的、複雜的社會，人並不是有單一心智的。
馬文·明斯在《情感機器》中說，我認為人類的尊嚴來自於人類自身的構造，處理多種情況和困難的不計其數的方法，多樣性正是人和動物，與過去所知道的機器的主要區別。這是什麼意思呢？現在很多時候，當我們製造機器的時候，我們總想尋找一種通用智能，就是用這一個智能解決所有的問題，但是人其實不是這樣的，人是一種綜合智能，在人的頭腦裏麵有不一樣的智能處理問題。當我們在街上看到一個車過來的時候，杏仁核發出警報，告訴我們危險要躲開，當我們看到一個老人摔倒在街上，一種同情憐憫讓我們想把他扶起來，但是另一個批判的聲音說，他有可能是騙子要躲開，但是另一個正義的聲音說，即使他是騙子，這樣可憐的老人我是不是應該幫助他。但是還會有一個綜合的，從一個全景的視野的角度會去分析這個時候的形勢、分析這個時候個人的情況、分析這個時候社會的狀況，可能會報警，也可能會介入處理當時的狀況。
所以在任何一個情形下，我們其實並不是用統一一個單一的智能來進行處理，我們的頭腦中其實有很多很多個聲音，我們是要處理這樣的新式社會。
人工智能目前隻是一個絕頂的武林高手，但對於我們任何一個人來說，我們的頭腦裏都是一個武林門派，我們學的更多是一種綜合處理，統一協調的係統性方法。
所以我是覺得在未來，其實人工智能它的下一步發展，不管它往哪個方向發展，它要處理的接下來就是綜合的、多功能的、多能力的、多目標的任務的相互協調，多種價值觀、多種任務的相互協調，這是我們需要更多地去理解人類的大腦、理解我們人類的心智係統。
結果，我跟老板說了這些以後，老板就說好吧，那我幹脆就不要測了，既然人工智能肯定答不出這些問題，我就幹脆把這個機器退貨吧。我說不行，耳聽為虛，眼見為實，我說了這麼多都很理論，我們現在要來真實的測一測，看看人工智能是不是答出這些問題。
結果測了一下，大家都知道圖靈測試怎麼測，人工智能和人他們在一個幕布以後問他們同樣的問題。第一個問題問了人工智能，人工智能說不知道，可是人也說我不知道。第二個問題問了人工智能，人工智能說不知道，人也說我怎麼知道他心裏怎麼想的。第三個問題問了人工智能，人工智能說不知道，而人也說，其實我也不知道我接下來想幹什麼。
當我們這麼反複地測來測去以後發現，原來我們認為人工智能不能回答的問題，其實這些人也不能回答。這個時候，不是人工智能無法通過圖靈測試，而是人無法通過圖靈測試，我們如果這些問題我們也不知道如何回答，那麼其實我們是看不出我們和人工智能的區別，這其實不是人工智能的問題，而是我們的問題，如果我們沒有了這些綜合認知能力，如果我們也不能理解他人，如果我們也沒有了自我表征和自我決斷能力，那麼其實我們就無法和人工智能做出區別。
人工智能最大的威脅是什麼？
所以，我自己會覺得人工智能最大的威脅是什麼？是誤傷人類嗎？不是，汽車也會誤傷人類。是故意毀滅人類？也不是，因為實際上人工智能離故意毀滅我們還有很遠。是取代工作嗎？仍然不是，它們會取代一部分工作，但是他們會製造出更多更多的就業崗位。
人工智能對我們最大的威脅就在於，當我們過於依賴很多的數據係統以後，我們自己如果變得懶於思考、懶於自我反思，而讓我們自己的智慧退化的話，這是對人類最大的威脅。
我們所有的人天生與生俱來，帶著我們億萬年生物進化所具有的大腦先天的功能，大腦有很多神奇之處，我們自己都沒有完全的發掘，而我們人所具有的這種心智係統，實際上是有很強的綜合能力，是一個智慧係統，我們隻有更多的認識到這點，認識到我們和人工智能的不同，理解它有哪些地方是超強的，是強於我們的，但是理解到我們有哪些地方和它們不一樣，能夠把我們自己真正不一樣的地方發揮出來，我們才不會讓我們自己的智能退化，才不會讓我們的文明退化。
所以未來在我看來人工智能和人會走兩條非常不一樣的路，人工智能會做到許許多多我們人類做不到的事兒，會是我們的輔助、是我們的工具，而我們人如果我們讓我們的智能在一直不斷地向前進，我們的人可以一直和人工智能攜手同行，就不存在威脅不威脅的事情，我們一起能攜手同行。
所以我覺得人工智能最大的意義就是它讓我們更多地理解我們自身，對人工智能思考越多，我們會發現我們自己的心智係統是越神奇的。所以我們越了解人工智能，我希望我們也能越了解我們自己，人工智能在彼岸，我們在此岸。通過對彼岸的遙望，我希望我們能更多地理解我們此岸的人類，希望我們能夠有更全景、更宏觀的視角看待我們的地球、看待我們的世界，我們都能有一個綜合全麵的世界的模型，希望我們每個人都能更多的去理解他人的心思、理解我們自己的心思，能夠為自己做出決斷。所有這些都是人類智慧的最精髓的部分。
今天我講的故事純屬杜撰，但是我對於人工智能的思考，我凝結成六個故事和兩篇文章，在我下周要出版的新書裏麵，新書的名字就叫做《人之彼岸》，都是關於人工智能。我希望我們能夠通過對人工智能的思考更多地了解我們此岸的人類。
這就是我今天所要講的，謝謝大家！
最後更新：2017-11-07 01:53:38