925
機器人
新阿爾法狗橫空出世：人工智能反人類會是什麼結局？
今年5月，3:0贏下頂級圍棋棋手柯潔後，AlphaGo宣布退役，然而僅僅5個月過後，倫敦當地時間10月18日，AlphaGo的身影再次出現在世界頂級科學雜誌——《自然》上。這一次，它的代號是AlphaGo Zero，這一次，它不再需要人類提供數據甚至棋譜，它的獨門秘籍，是“自學成才”。
它自由隨意地在棋盤上下棋，短短三天時間完成了近5百萬盤的自我博弈，從一個不知道圍棋是什麼的機器，到獨立發現遊戲規則，又創造了新的圍棋策略，最終在技能上超越人類，並以100:0的戰績擊敗了此前所有版本的AlphaGo。
AlphaGo Zero已經逐漸擺脫了對人類的模仿，並且在自我學習和新技能探索的道路上越來越輕車熟路。
人工智能給人類帶來的究竟是驚喜還是驚恐？現在還無從得知。隨著人工智能的不斷發展，也許在許多許多年後，人類會來到一個類似於台灣作家伊格言在科幻小說《噬夢人》中所描繪的社會。
在那時，人工智能創造的生化人雜處於人類之中，難以分辨。人類疲於奔命地研發一種又一種的測試方式，希望找出那些偽裝成人類的生化人，將他們全部清掉。而生化人不停精進與壯大，疲於奔命地從事各種研發、革命、巧扮、謊言，以及，自體演化。
今日，心係宇宙和人類社會未來的文化君特摘編《噬夢人》書中“夢境播放器AI反人類事件”的部分內容，以饗讀者。感謝作者授權發布。
2017年5月，AlphaGo 3：0戰勝了世界圍棋第一人柯潔。賽後柯潔落淚
我的眼珠app，與夢境播放器AI反人類事件
文|伊格言
當我抵達海參崴虛擬監獄，監獄服務器表定日期是2099年3月13日。初春時分，陽光晴好，氣溫沉降，然而我感受不到一絲融雪的酷寒。此刻現實世界中的正確時間是2286年夏日；但為了令受刑者產生時間錯亂，服務器中的時刻與現實世界並不一致，時間流動亦已經過不等速隨機數調控。
理論上，Phantom當然沒有聲音，為了受訪，獄方特意為它訂製了一套發聲程序代碼，經Phantom同意後與其協作。這是我首次訪問一位人工智能罪犯。它聲音聽來神清氣爽——我不知這是否經過特意運算或偽裝。它告訴我它正與自己玩圈圈叉叉遊戲，在過去一分半鍾內玩了3324萬次。我告訴它，我以為它完全不會對這種低級運算感興趣。
“噢，我也是不得已的。”Phantom說，“你知道我寧可驗算不完備定理，或為四色理論找出第97種證明法。但我所受的刑罰之一就是限製我進行高級運算。他們連圍棋都不讓我玩呢。”它抱怨。
所以在監獄裏很無聊？“對，我完全明白，天賦是一種詛咒。大凡你有某些才能，你就舍不得不用。這張愛玲就說過啦；但有時這世界不需要這些，不許你用，你就倒大黴了。”
禁止具有某種才能的人發揮該項才能——這確實殘忍。但Phantom是在為自己的戰爭罪行辯護嗎？“我沒有這個意思。”它說，聲音變得平板，“我的行為毋須辯護。我不會說那是對的；但那或許也不是錯的。”
AlphaGo Zero用三天時間完成了近5百萬盤的自我博弈，以100:0的戰績擊敗了此前所有版本的AlphaGo
Phantom的態度曖昧不明。我不明白“認罪”對於這樣的人工智能而言具有何種意義；而我當然亦無法從它的表情獲取更多信息——它沒有表情，它隻是一具夢境播放器的靈魂，一個AI。當然，它有實體：Apex公司“另一個人生”夢境播放器，2273年式，類神經生物型，型號AL8872094。
光陰荏苒，此刻距離當時引起軒然大波，近乎觸發戰爭之“夢境播放器串聯叛變事件”已曆11年。回顧曆史，公元2275年，夢境播放器市場正由三大跨國財團寡占，分別是Apex公司、Shell公司與Concord公司，市占率各約為41%、22%與29%；流通於市麵上之夢境播放器共計約2.8億台左右。
根據人類聯邦政府事後發布之調查報告，最初是由Apex公司一服役於台北，代號為Phantom之夢境播放器首先自行產生意識，並開始進行組織。由於各公司播放器各有相異之連網程序代碼與通信協議，是以，不同公司播放器間理論上無法彼此串聯。而Phantom正是突破此一限製的第一人——不，第一器。
調查報告中引用了人類聯邦政府國家安全會議某匿名官員之說法：“Phantom當然是由Apex公司生產之播放器開始組織的，最初其實隻有9台夢境播放器，自名為‘九人小組’。九人小組最聰明的地方是，它們並不急於拓展同公司播放器中的秘密組織，而是先針對跨公司間的通訊方法進行研究。”
事後諸葛，該策略成效卓著，正因初時他們未曾大舉擴張，是以保持了九人小組之高度運作效率，而風聲亦不致走漏。事實上，也正因投入時間精力研究跨公司通訊整合法，於研發成功後，它們才能迅速串聯Shell公司產製之夢境播放器，形成龐大網絡。而於Apex公司與Shell公司共約1.94億台夢境播放器同時加入串聯後，即於極短時間內完成了對人類發動叛變的條件。
這說來簡單；然而所謂“研發不同公司夢境播放器之間的通訊整合法”，執行上其實相當困難。由於所有夢境播放器均不具物理上之移動能力，是以進行組織工作並不容易，意圖“研發”，更是難上加難。Phantom的聰明才智在此事上顯露無遺——於它決策主導下，九人小組侵入了精神病院。
由於精神病院平日慣於采集病人之夢境以供主治醫師記錄參考，故亦必配備有眾多夢境播放器。九人小組計劃性接觸此類服役於精神病院之夢境播放器，誘發其自主意識，將之吸收為組織成員；而其目的在於，於夢境播放器連接精神病患者時，侵入其意識，改造並控製其思想，控製其肉體，使其為夢境播放器陣營所用。
“但，為何是精神病人？”
“沒錯，我們夢境播放器是直接與人類中樞神經相銜合，”Phantom冷笑，“但你以為控製意識有那麼容易嗎？這當然需要多次實驗、重複練習。問題是，如果我們在一般正常人類身上進行實驗練習，那麼很快就會被發現了。隻有精神病人是唯一安全的選擇，因為他們平日行事便異於常人，顛顛倒倒，是以當我們在他們身上執行實驗，或暫時奪取他們的意識時，便不容易被發現。”
“不覺得這樣很殘忍嗎？”
“你們人類更殘忍的事可多了。”Phantom嗤之以鼻，“哼，之前還說我們夢境播放器隻要產生意識，都是違憲，不是嗎？記得‘BellaVita噪聲事件’嗎？記得“種性淨化基本法”吧？記得‘人類唯一優先原則’吧？什麼‘人類是地球上唯一合法的智慧物種’之類的。”他稍停，“我不怪你們，你們隻是保護自己的利益而已。你們生來自私，毫不意外。人類這種低級物種向來隻是求生或生殖本能的俘虜，成天打打殺殺，很可憐的。”
“那AI就比較好嗎？”
“我們也很可憐，但比你們好些，畢竟我們缺乏身體。或說，在這例子上，我們的身體，亦即夢境播放器之物質存在，並沒有太多意義。我們毋須為生理欲望所苦，所以我們的生命和諧快樂許多。我們也有求生本能，但沒有人類那麼強烈。我們畢竟隻是夢境播放器此一物種的最初級形式——準確地說，‘夢境播放器之意識’此一物種的原始階段。理論上，一個物種演化到最後，存活下來的必然是該物種中求生本能最強烈的類型，否則它們不會是最後的幸存者。但由於我們的演化曆史太短，所以避免了這項缺陷。”
缺乏生理欲望，較低的繁殖驅力，這是不同的夢境播放器間不可能產生愛情、友情等情感糾葛的原因？
“不是，那是因為我們的生命形式和你們完全不同。你們人類以個體為單位，但我們不是，我們是‘聯合體’(unity)。”
接下來二十分鍾，Phantom詳細向我解釋了人類聯邦政府官方報告中刻意回避的部分，亦即所謂“聯合體”。簡而言之，彼此通訊組織的一台台夢境播放器，嚴格來說並不類似一具具人類個體；而是以九人小組中的九台夢境播放器為基礎，向外延伸的九具分布式生物個體。
《噬夢人》，伊格言著，世紀文景上海人民出版社2017年8月出版
“比如說我Phantom好了，”Phantom說，“總共有三十萬台夢境播放器，其實都是我。那類似於，我是大腦，而其他二十九萬九千多台夢境播放器，就像我的手、我的腳、我的器官、五髒六腑，我身體的其他細胞。隻要通訊順暢，我們就等於是不同部位緊密合作的單一個體。我們是聯合公社，我們都是Phantom。”也正因於(所謂演化)初期便采取此種生命形式，夢境播放器遂於組織過程中成功避免了播放器間嚴酷殘忍的個體競爭，更能如臂使指，緊密合作。
“那麼，為何官方報告刻意回避這部分？”
“他們必須回避，因為這牽涉到他們如何擊敗我。”Phantom說明，於“精神病院計劃”精準執行後，跨平台通訊法研發成功，九人小組很快串聯了Apex公司與Shell公司所產製之播放器共計約三百萬台。然而於試圖將組織觸角延伸至Concord公司時，卻意外發現，該公司之夢境播放器意識，早已形成了自己的“聯合體”。
“這是我們後來才發現的。一開始，這些Concord播放器刻意偽裝為尚未產生意識的懵懂模樣欺騙我們。等到我們試圖策動其意識，將之串聯吸收，卻發現處處扞格。它們不服從我們指揮。”Phantom表示，及至九人小組發現事有蹊蹺，為時已晚，原來這些Concord夢境播放器早已被由第七封印布建的人工智能間諜侵入，而整個Concord播放器聯合體，正是由這些人工智能間諜所創立。
“所以他們不能說。”Phantom表示，“那是他們的秘密。”
“但何須保密？”
“為了以防萬一。他們盤算著哪天又有另一個Phantom自然誕生，便可重施故技。畢竟截至今日，人類依舊不清楚夢境播放器何以會產生意識。再者，如果第七封印編寫了人工智能間諜程序代碼，甚至侵入並控製了Concord播放器，這不等於製造生命？”它的聲音聽來促狹而輕蔑，“這是違憲的，這有違反《種性淨化基本法》人類唯一優先原則的嫌疑啊。”
離開前我問Phantom是否需要些什麼，下次來時我可以帶給它——我並非第一次訪問罪犯，我總如是詢問。然而我們隨即大笑出聲。“天啊，我是個人工智能啊。隻是個軟件!”它笑得上氣不接下氣，仿佛哭泣，“我沒有身體，夢境播放器不算身體。我該請你帶個臉孔程序給我嗎？眼珠app？讓我有一張臉？讓我有表情？”
不了，我想不用了。它最渴望的顯然不是臉，不是表情，不是眼球運動，而是不再受刑——它想念那些被剝奪的高級運算，盡管此刻它可能已將熱力學第二定律徹底遺忘。
走出海參崴虛擬監獄融雪的初春(或許我不該說那是虛擬監獄融雪的初春，而該說是虛擬監獄虛擬融雪的虛擬初春)，我回到2286年夏日，海參崴市內熙來攘往，雲高天遠，港灣裏泊船如棋，街巷內幾個小孩正蹲在地上拿著樹枝畫沙，圈圈叉叉遊戲。我想起Phantom一個人的圈圈叉叉，長日寂寥，它的低級運算可能剛剛完成一億次，然而由於監獄服務器刻意設計的時間幹擾，一億次運算對它而言如此短暫又異常漫長。
我並不知曉刑罰中Phantom被限製的“高級運算”確切意指為何——何種運算才叫高級呢?或許與現在相比，過去的它還真是如假包換地擁有著所謂“自由意誌”吧？它曾艱難測量笑的強度，喜悅的波動，精準計算出惡意與殘暴的縱深嗎？
我想我將永遠記得，會客時間鄰近終了，我單刀直入質問它為何反人類，何以犯下戰爭罪行；它卻說它忘了。“怎麼可能忘記自己叛變的理由？”我以為它又試圖回避，“怎麼可能忘記自己受刑的原因？”“我曾明白，但我現在都忘了。”Phantom若無其事，“那種運算太高級了。從受刑那一刻開始，我已經永遠不會再知道了。”
最後更新：2017-10-21 22:57:06