人工智能憑什麼毀滅人類

近日，鋼鐵俠Elon Musk發布了一條Twitter稱，“我們得對人工智能（AI）十分小心”，“它的潛在危害性比核武器還要嚴重”。小編不禁大吃一驚，看來這個總是把不可能變成可能的鋼鐵俠對 AI 也是有所顧忌的。他還“補了一刀”，“希望我們不僅僅是超級智能的生物加載程序。很不幸，這種可能性正在增加”。如果人工智能真的在未來擁有了自我思維和意識，它到底會對人類造成什麼危害？人工智能又憑借什麼毀滅人類？或許，這部科幻電影能夠給你答案。

 

這部《複仇者聯盟2奧創紀元》改編自漫威動畫，身經百戰的超級英雄們產生了職業倦怠，已經卸下鋼鐵戰甲的托尼•斯塔克因此發明了“奧創”——有自我意識、有學習能力的人工智能機器人，並將指揮機器人軍團的重任交給奧創。令超級英雄們始料不及的是，不斷進化的奧創得出了“人類是地球上最大的威脅”這一結論，進而開始實施清洗人類的毀滅計劃，奧創利用自己強大的能力控製一切AI程序，一度將超級英雄們逼入絕境。

 

影片中對人工智能的超強破壞力不乏有誇大的嫌疑，但是不妨假設，一旦人工智能已經開始擁有了自我意識，那麼現在人工智能就具備了學習和思考的能力。人工智能的學習速度將會是驚人的，能在學習中不斷學習怎樣使自己更加快速地學習以提升自己學習的能力。聽起來似乎是繞口令，令人覺得不可思議，但事實上，同樣的事情已經發生在了人類的身上-----18世紀以來，人類的科學技術知識出現了爆發性的增長，而且這種增長的速度還在越來越快。可以想見在資源充足的情況下（比如允許人工智能連入互聯網），人工智能將以怎樣驚人的高速來完善自己。

那麼，人類能夠摧毀失控的人工智能嗎？在以往的科幻大片中，我們看到過數以百計毀滅失控的人工智能的辦法：簡單的有輸入自毀代碼、關閉機器電源、刪除數據等，瘋狂的有核武襲擊、全城斷電等。

但實際上，人工智能的生命力遠比我們所想象的要強大得多，他可以無限的複製拷貝自己，將自己藏在整個計算機網絡裏人類用來摧毀人工智能的手段同樣可能被人工智能用來毀滅人類。而即使是看似完美的機器人定律也有可能被進化程度遠高於人類的人工智能破解，人工智能失控的風險遠高於人類的想象。

當這樣一種能力、智慧遠超於人類，但會做出什麼也同樣難以預料的AI真的出現，也就成了懸掛在人類頭頂的，一把不知道什麼時候會掉下來的達摩克利斯之劍。