446      YY.com

殺手機器人 is coming！馬斯克攜26國AI專家向聯合國發出警告

與由人控製的半自動機器人不同，自主武器是指能夠在無人幹預下獨立搜索、識別並攻擊目標的新式武器。是否該賦予機器殺人的代理權，越過機器自主殺人這條紅線？

本文共計2537字，閱讀時間3分鍾。

記者 | 蔡浩爽

編輯 | 趙力

想象一下這樣一個場景：未來的某一天，以美軍為首的多國聯合部隊包圍了中東某地，決心剿滅“伊斯蘭國”。聯軍派出一批致命自主武器——可以殺人的智能機器人，他們飛到天上，潛入水裏（如果附近有水域可以供他們施展的話），遊走在陸地上，以追蹤敵人。

利用人臉識別技術，這些機器人識別並射殺ISIS的頭目，而慌亂的恐怖組織成員卻對金屬製成的機器人無計可施。聯軍甚至可以在傷亡為零的情況下剿滅恐怖組織——聽起來是不是很令人心動？

技術的發展為這一幕的實現創造了可能，但事實上，有很多人並不認為這是件好事，包括身處人工智能一線、對這種自主武器的製造技術最為了解的專業人士們。

今天，在澳大利亞墨爾本舉辦的 2017 年國際人工智能聯合會議的開幕致辭上，以特斯拉CEO伊隆·馬斯克與 DeepMind 聯合創始人 Mustafa Suleyman 為首，這群創建了世界頂級人工智能公司、掌握最前沿人工智能技術的116 名專家正式向聯合國發表公開信，唿籲采取相關的措施來製止圍繞“智能武器”而展開的軍備競賽。

這已經不是他們第一次發出這樣的公開信。

擔憂已久：自主武器近在眼前

最近，聯合國正在籌備關於武器使用的正式討論，其中包括飛機、坦克和自動機槍。於是，“馬斯克們”——這群持人工智能威脅論的人，不失時機地再次提出向聯合國遞交公開信，唿籲聯合國阻止以機器人為工具、正在進行的軍備競賽。其中包括阿爾法狗的研究團隊、DeepMind聯合創始人Mustafa Suleyman 。

他們在信中提出，當下發生在軍備領域的技術浪潮，不啻於繼火藥和核武器之後“人類戰爭形式的第三次革命”。一旦研發成功，將來的武裝衝突可能達到前所未有的規模，而且其發展速度將遠超人類預期。

“這將是一種恐怖的武器，一種暴政和恐怖分子將用來殘害無辜民眾的武器，一種可能被黑客挾持並用於非法目的的武器。”專家們言辭激烈，“留給我們的時間已經不多了，一旦潘多拉的盒子被打開，將很難被關上。”

他們強烈建議對自主武器給予足夠的重視並迫切展開行動，把“不道德的”致命自主武器係統添加進1983年生效的聯合國特定常規武器公約（CCW）禁止使用的武器名單中。這一禁止名單已經包含了化學武器和故意的致盲激光武器。

專家們的擔憂由來已久。

早在2015年7月，眾多人工智能專家就曾發表了一封公開信，警告稱軍備領域對自主武器的研發已經發展到一定程度，幾年後——甚至都不需要十幾年——就有可能應用於“致命自主武器係統”（Lethal Autonomous Weapons Systems）了。當時在公開信上簽名的除了馬斯克，還有科學家霍金。

自主武器和軍事機器人正在從科幻電影、小說家們的電腦硬盤走向工程實驗室、走進戰場。人工智能大潮正迫使軍事專家、人工智能專家和倫理學家不得不正視這一問題。

什麼是自主武器

“自主武器爭論的核心就是機器殺人。”軍事專家董健告訴尋找中國創客（ID：xjbmaker）記者。與由人控製的半自動機器人不同，自主武器是指能夠在無人幹預下獨立搜索、識別並攻擊目標的新式武器。

軍工界對機器人不同的自主等級進行了區分。

第一級被稱為“人在環中”(humans-in-the-loop)，包括被美軍和其他軍隊廣泛使用的“捕食者”無人機。它既可以扮演偵察角色，又可發射兩枚AGM-114地獄火飛彈。但與完全自主武器不同，這架無人機或許可以識別目標對象，但最終依然需要人類按下攻擊按鈕。

（“捕食者”無人機）

第二級的自主是“人在環中係統”(humans-in-the-loop system)，相較於第一級自主，“人在環中係統”已經不需要依賴人類進行操作，人所要做的隻是對它進行監督。遠程反艦導彈就是這種“半自主”係統，狩獵敵艦，並在沒有進一步人為幹預的情況下進行識別和攻擊。但現代戰爭的速度和強度不禁讓我們懷疑，這種人類的監督能否形成有效控製。

第三級自主武器係統被稱為“人在環外係統”(humans-out-of-the-loop system)。顧名思義，在這個階段，戰爭機器人可以實現完全自主。“目前完全自主的都是中低端偵察器。”董健告訴尋找中國創客記者。無人戰艦“海上獵手”號就級具代表性。它不僅能夠在無人操控的情況下連續航行兩三個月，而且它還具有極強的反潛能力。但完全自主的偵查器投入戰場後，完全自主的殺人機器還會遠嗎？在去年四月份，美國副國防部長羅伯特·勞培就提出了將來武裝“海上獵人”的可能性。

（“海上獵人”無人戰艦）

“就實現難度而言，依次是自主無人機、自主無人船艇、自主無人車。”董健介紹，“無人機和無人船艇距離自主戰鬥已經很近了，無人車還比較難。”董健同時表示，自主無人車技術雖然最難，“但是一旦實現恐怕是對人類最危險的”。

同一種武器，不同的道德

是否該賦予機器殺人的代理權，越過機器自主殺人這條紅線？支持者和反對者各有己見。

支持致命自主武器係統的人有兩大類，其中一類是軍事專家。“自主武器的效率是無與倫比的。”董健說。

首先，自主武器可以讓戰爭深入到以前無法進入的地區。

其次，自主武器係統可以通過將人類戰士從危險的任務中移除來減少傷亡，比如在處理放射性物質或者爆炸物時，自主機器人的優勢顯露無疑。

此外，使用機器人還可以大大降低軍事費用。據美國國防部的數據顯示，阿富汗每名士兵每年都要花費五角大樓85萬美元。而使用TALON機器人——一個可以裝備武器的小型漫遊者，花費則降低到23萬美元。

除了效率與成本，道德倫理也是一部分人支持自主戰爭機器人的原因。

有軍事專家和機器人研究者認為，軍事武器係統不僅在道德上可以接受，而且實際上它們在人類戰爭中更符合倫理。

例如，機器人學家羅納德·阿爾金（Ronald C. Arkin）認為，自主機器人對戰場形勢的判斷不會被諸如恐懼或歇斯底裏等情緒所掩蓋，因此係統能夠傳入更多感官信息。

而美國陸軍上校道格拉斯·普賴爾則從另一個方麵指出機器人參戰在道德上的合理性。普賴爾指出，神經科學研究表明，人類負責意識自我控製的神經回路可以在壓力超載的情況下關閉，導致人類士兵在戰場上出現性侵犯或其他不應該犯下的罪行。而機器人則不會有這些問題。

但這些理由顯然不足以讓“馬斯克們”接受。

時至今日，以馬斯克和紮克伯格為代表的兩方對人工智能的爭論掀起了一輪又一輪。聚焦到軍備領域，這樣的爭論並不是杞人憂天。

自主武器的反對者們在道德上似乎更站得住腳。

因開展反對地雷的運動而獲得諾貝爾和平獎的喬迪•威廉斯是“阻止殺手機器人運動”的發言人，“如果一些人認為把人類的生殺大權交給一台機器是可以的，人性又何以處之？”在他看來，自主武器比核武器更可怕。而從法理層麵上講，人類士兵在戰場上的錯誤尚有軍事法庭審判，機器士兵若失手殺人，後果應有誰來承擔？

除了純粹的道德問題外，還有許多其他隱患。

機器參戰或許會如文章開頭所述，降低人員傷亡率。但人工智能技術不同於核武器，其技術門檻較低。殺手機器人降低了戰爭中的人員成本，爆發衝突的可能性是否會因此提高？如果阻止這類係統落入恐怖分子或者黑客手中？當他們出問題的時候誰來負責？

澳大利亞新南威爾士大學人工智能教授沃爾什曾經說過：“幾乎每一種技術都可以被用於好的和壞的事情上，人工智能也一樣。它可以幫助人們解決很多當前急迫的社會問題：不公平和貧困，氣候變化的挑戰和正在進行的全球金融危機。然而，同樣的技術也可以被用在自主武器上以引發工業化大戰。我們需要現在就做出決定，到底要選擇哪種未來。”

你怎麼看待殺人機器人？

快留言告訴小表妹你的想法～

本文為新京報原創

未經書麵授權不得轉載

最後更新：2017-08-22 08:48:28

  上一篇： Booking.com聯手哈佛優化翻譯係統，流暢度逼近人工翻譯水平

  下一篇： “選擇恐懼症！”oh！come on baby！8.28工銀理財節放大招助你一臂之力！