915
機器人
人工智能恐怖故事集：從虛擬空間漢尼拔到種族主義哥斯拉
大數據文摘作品
作者：Luba Belokon
編譯：白丁、笪潔瓊
主播：段天霖
後期：雲柯
如果目前人工智能（AI）的所作所為還沒把你嚇到，那麼這篇文章肯定能把你嚇尿。Statsbot團隊將在這篇文章中為你集中呈現史上最恐怖、影響最深遠的AI恐怖故事。
Have a great data!
戳下方收聽【數據也瘋狂】，本期主題《語音助手會是下一個大平台，但前提是你不能有口音！》
如果你手上還有別的素材，歡迎在評論區爆料請開始你的表演！
虛擬空間漢尼拔
下麵請Mike Sellers開始他的故事。兩千零幾年的時候，Mike Sellers正在美國國防部高級研究計劃局（DARPA）從事社交AI方麵的工作，和小夥伴們一起開發具有社交學習能力的代理。
“在一次模擬中，我們用到了兩個代理，所以想也沒想就把它們命名為亞當和夏娃。它們隻知道做事情的方法，其他方麵則是白紙一張。舉個栗子，它們知道怎麼吃東西，但不知道什麼能吃什麼不能吃。我們給了它們一顆蘋果樹（當時一點兒也沒想蘋果樹的象征意義），然後亞當和夏娃就發現吃蘋果是一件很開心的事情，而其他試吃過的東西就沒有這個效果，比如樹和房子等等。除了它倆，還有一個叫Stan的代理。Stan在社交方麵心有餘而力不足，所以經常在外圍孤獨地徘徊。”
“係統當然多多少少都會有些Bug。”
“有次亞當和夏娃在吃蘋果的時候，第一個BUG悄然而至：飽腹感來得比平常晚了一些，所以這倆貨就把蘋果都吃完了，然後就開展了聯想式學習:如果看到狗的時候它倆恰好在經曆疼痛，那麼它倆就會把狗和疼痛聯係起來。由此可得，亞當和夏娃進食期間正好在周圍熘達的Stan就被這倆貨和食物掛上了鉤。（第二個bug，你可以猜到故事的走向了。）”
“我們碰巧在觀察這個特殊的模擬情況。亞當和夏娃很快就把樹上的蘋果吃完了，可是還沒覺得飽。所以這倆貨開始打量周圍還有哪些東西可以拿來吃一下。蒼天啊大地啊，這倆貨的‘大腦’經過分析認為Stan童鞋看上去是可以吃的樣子。”
“所以它倆一‘人’咬了Stan一口。”
“第三個bug：人體重量的初始設定有問題。係統默認每個物體的重量為1，Stan也不例外。不論亞當和夏娃吃啥，咬一口就吃掉0.5。既然亞當和夏娃各咬了一口，Stan就直接歸零領便當了。據我所知，Stan是虛擬世界中同類相殘的第一個受害者。”
“事件發生之後，我們隻能通過代理的遙測技術來重建部分事實。當我們意識到當時的情況後，所有人都感到脊背發涼。我們盡量去減少這個AI結構中代理行為所受的種種限製，但是之後我們加了一條禁止同類相食的鐵律：不管這些代理餓成什麼鬼，它們都不能以彼此為食。”
“我們還修正了一係列數據，包括代理體重、形成飽腹感所需的時間等；此外，對代理之間進食行為與食物的關聯也進行了修改：一看到經常一起吃飯的飯友，你很可能就會想要吃點東西，但是你絕不會想著把飯友變成大餐。”
你確定？一定？以及肯定？自己不是同性戀？
最近麵部識別算法在機器學習社區裏特別火。這個算法分辨直男和基友的準確率最高可達91%，但分辨直女和蕾絲時就隻有71%從技術層麵看，這項技術著實有趣。數據集來源於一個約會網站，涉及的麵部特征既有不變量（比如鼻型），也有變量（比如男士的個人風格）。
但神經網絡在概率這個問題上並不靠譜：
10%的失誤率已經是最好情況了，但對於概率而言依然是天大的誤差。進一步來說，所謂91%和71%的準確率僅僅是通過比對兩張照片得到的：一張直成電線杆，一張彎成回形針。對了，我還忘了告訴你們，這個是在實驗室裏得出的結論。如果你在真實自然的網絡環境中應用這個算法，準確識別的概率肯定會大幅縮水。很多人認為這個項目在道德上站不住腳，特別是在那些將非傳統性取向判定為非法的國家中。如果這些國家的政府在人群密集區域應用這一係統，岌岌可危的可就不隻是基友了。
種族主義和性別主義哥斯拉
Tay.ai的故事（事故？）相信大家都不陌生，但是你知道它在緊急被下線後又再度歸來過嗎？微軟在2016年發布了一款名為Tay的AI機器人，以一名19歲少女的形象出現在大眾麵前，目的是通過回複廣大人民群眾的推文和下麵的評論去學習群眾的智慧、汲取民間的養分。
推文：希特勒是正確的，我恨猶太人。
事實上Tay妹紙還是有兩把刷子的，比如和其他用戶逗個樂兒，點評一下你發給她的圖片，講講故事，玩兒玩兒遊戲，模仿用戶評論來招以彼之道還施彼身啥的。網友最先教會Tay的就是發動人身攻擊，發表種族歧視言論；這在網上簡直不要太正常。然後微軟爸爸不得不立馬讓Tay妹紙斷網下線，她也算得上是‘青史留名’的傳奇AI了。
不過僅僅一周之後Tay就複出了。
令人大跌眼鏡的是她發布了不少關於毒品的推文，顯然妹紙依然處在黑化狀態。於是很快她又下線了，賬戶也被設置為了私人賬戶。順便提一句，微軟此前還推出了一個名為Rinna的聊天機器人。這位妹紙則是在深度抑鬱後，開始糾結於和元首有關的問題。
毀掉比賽
這是我們在Quora上找到的故事，Po主Shay Zykova來自夏威夷，是給外國人講英語的英語老師。故事發生在一所大學舉辦的機器人比賽中。
“每支參賽隊伍需要設計一個機器人。它的任務是把機器羊‘趕’進為每個機器人指定的羊圈中，最後羊圈中羊數量最多的機器人獲勝。機器人需要自主‘思考’並製定策略（所以這不是僅憑借操縱杆控製就能完成任務的機器人）。”
“比賽開始後機器人們開始瘋狂地趕羊。其中一個機器人把一隻羊趕進羊圈後就關上了門。它的團隊一臉懵逼，想拿冠軍的話一隻羊怎麼夠呢？可是後來的事情把大家都嚇壞了：這個機器人開始肆意毀壞競爭對手，讓它們動彈不得。”
“這貨的策略是要贏的話好好趕羊完全沒必要，把其他競爭對手都幹掉就妥妥的了。”
我覺得有些人在無法憑借自身實力實現目標的情況下，也會這麼做。
為了不輸而暫停
程序猿、卡耐基大學博士Tom Murphy在2013年推出了一款“會玩兒”NES遊戲的程序。他的做法是把遊戲視作另一種數學題，該程序會去完成能夠得分的任務，然後學習如何不斷重複這一過程，最終高分通關。
程序的基本原理是根據玩家打遊戲的一小段記錄推出一個目標函數，然後利用這個函數在模擬器中搜索可能的打法。這樣一來，在總結玩家進度的基礎上有可能會生成新的打法。
這個方法在《超級瑪麗》、《泡泡龍》和《吃豆人》等遊戲上取得了不俗的效果，但是在俄羅斯方塊中卻慘遭滑鐵盧。
Murphy寫道：
“盡管掉下來的各種形狀看似正常（不正常也很難，畢竟是遊戲程序在給你掉塊塊來玩兒），組合方式簡直無敵白癡-比瞎按一氣還糟糕。這可能是因為每放好一個形狀都會得幾分，所以可能在程序看來這就是進展；因此程序背後的動機就成了盡快堆塊塊，而是把形狀組合放好。”
屏幕很快就滿了，因為“玩下去必然輸”，所以想要贏得遊戲的AI就按下了暫停鍵，期限是永遠。
我能 我 我 所有其他的東西
（譯者注：不懂是正常的，懂的話…嗬嗬噠）
Facebook發現公司的兩個AI程序突然開始用一種隻有它倆能懂的語言聊天，隨後馬上放棄了相關實驗。
實驗的目的在於開發出的聊天機器人能夠運用自然語言就多個事項進行討價還價。研究人員給機器人布置了一項頗具挑戰性的任務：讓它倆談生意，交易對象包括帽子、球和書本等，每樣物品都有給定的價值。
構建能夠與人類進行有意義交流的對話係統一點兒都不簡單。機器人需要把它對談話的理解和對周圍世界的理解結合起來，然後才能生成能夠實現其目標的新句子。這項研究采用的是經過訓練的遞歸神經網絡（RNN），而非結構複雜的對話係統，對話規則都經過了強化學習的訓練。
使用了機器學習的聊天機器人：構建神經對話代理——
研究團隊讓機器人開始用自然語言聊天後，
整個談判就跑偏了：
鮑勃：我 能 我 我 所有其他的東西…..
愛麗絲：球球們 有 零 對我對我對我對我對我
鮑勃：你 我 所有其他的東西
愛麗絲：球球們 有 一個球 對我對我對我對我對
鮑勃：我 我 能 我 我 我 所有其他的東西
愛麗絲：球球們 有 一個球 對我對我對我對我
鮑勃：我
有意思的事情發生了，這種雞同鴨講的詭異談判居然還談成了幾筆生意。聊天機器人發展出了一套它們專有的語言，彼此交流也變得更加有效。鑒於研究人員想要開發的是能夠說人話的機器人所以他們決定放棄這個項目。
AI恐怖故事還會有續篇的！歡迎分享你的故事！
大數據文摘x稀牛學院
AI精品钜惠課程
人工智能的數據基礎
金牌數學講師
直播互動學習
助教全程輔導
以科研+工程的獨特視角，帶你搞定人工智能中所需的數學理論，
入門與進階AI/DL領域的推薦課程！
誌願者介紹
回複“誌願者”加入我們
最後更新：2017-10-13 19:59:23