954
機器人
機器人都會逃跑了，人類就不怕AI學會背叛？
還記得電影《機器姬》中，幾個AI機器人為了朝思暮想的自由，最終選擇背叛人類的情節嗎？現在已經有機器人開始為了自由逃跑，那麼背叛還會遠嗎？
被捧為網紅的它，在我看來是個危險！
不要笑話AI威脅論者是杞人憂天，你們曾以為隻會出現在電影中的橋段已經開始在現實生活中上演……
俄羅斯一家生產智能推銷機器人的公司——Promobot，這家公司生產的數百台Promobot機器人，已經在美國、哈薩克斯坦、愛爾蘭、英國、西班牙、智利等國家從事著與客戶交流、宣傳產品的工作。
它擁有龐大的俄語、中文和英語語音庫，能完成客戶身份記錄、識別，判斷客戶性別、年齡、心情，並提供對應大數據，推薦產品。總之這是個可以和人溝通的機器人，具備了相當程度的AI。
同批生產的大量Promobot機器人都很乖，克忠職守。隻有一個例外，Promobot IR77，這家夥最早在去年6月還在實驗室階段時，就有過逃出實驗室，跑上公路的記錄。當時由於電池續航不夠，它隻出走了50米左右，停在路中間還引發了一起交通擁堵。
後來開發者對它進行了重新編程，以為它會就此“聽話”，結果讓人意外的再次逃跑發生了。當然，更讓人意外的是，開發它的工程師對此相當樂觀。他們覺得這起意外其實間接測試了機器的導航和避障係統，IR77在逃跑過程中沒有損傷人員和財物。
趁人不注意，悄悄熘走的IR77。
接下來劇情發生逆轉，當開發者發現接二連三地修改IR77的控製程序之後，它依舊企圖逃走的事實讓他們也有點摸不著頭腦，認定這個機器人擁有了自由的靈魂。麵對這個太不聽話的家夥，工程師們準備拆解並永久銷毀它。
然而意想不到的情節再次發生，當這個消息不脛而走後，網上竟然有大量粉絲抨擊Promobot公司，甚至還有人到推特上發動“給Promobot IR77自由“的話題活動，來反對銷毀這個擁有自由靈魂的機器人。
這麼多神劇情一來二去，自然讓IR77名聲在外成了網紅，紅到什麼程度？紅到普京“大帝“在彼爾姆進行工作訪問期間，親自去技術園區看望了它。
然而,就是這麼一個看起來萌蠢無害的家夥，讓我產生了一個由來已久的焦慮。我是一個AI奇點威脅論者，從這狗血的劇情中，我感受到的是AI已經在不知不覺中積累質變的資本。它們都已經擁有逃跑這種自主意識了，學會背叛還會很遠嗎？
為什麼說開發AI，是人類在自掘墳墓？
1.不可阻擋的AI奇點爆發
2. AI奇點之後的不可預見性
3.相比金屬機器，人類真的很脆弱！
量變總是不太引人注意，就像攝像頭識別人臉的能力還低於人類的98%之前，我們都覺得攝像頭識人就是個傻X行為。但當前的攝像頭識別正確率已經達到了99%以上，超過人類之後的它們開始代替一些人的工作，同時也引出了一個思考，機器能在其他方麵超越人類嗎？超越人類之後會是什麼樣子？
前一個問題的答案是肯定的，著名的科技記者、紀錄片和電影製作人盧克•多梅爾曾寫過一本叫《人工智能》的書，早已預測未來會重構。奇點不可避免，隻是比比誰更能準確地猜出時間早晚而已。而後一個問題的答案，則沒有人能給我們，奇點之後是人類不可控的世界。也正是因為“不可控“才導致了細思極恐的AI威脅論。
比如本故事的描述中，有個細節不知道大家有沒有在意——“據說同係列其他的機器人都很乖“。這就讓人細思極恐，因為這表明在開發者編寫的代碼中，並沒有賦予IR77這種功能，而是在人類不知道的情況下變異獲得的。
這種變異是怎麼來的，那是因為人類賦予了機器學習的能力。公司的創立人之一奧列格（Oleg Kivokurtsev），也是IR77的設計者之一，在采訪時就曾告訴我們“這款人工智能機器人能夠從經驗和環境中進行學習。“
正是“學習”這一點，讓AI具備了超越人類的可能。單獨討論計算能力，當前電腦芯片的運算1分鍾，可以抵上全國科學家不吃不喝算上百年！就像神經係統的原型AlphaGo，其學習圍棋的時間絕對遠低於那些從小就開練童子功的國家大師們。但這並不影響它的超高速成長，很快它就幹掉全球頂尖圍棋高手。
而學習這個概念的背後就是計算、處理+記憶、存儲。計算優勢之外，芯片的記憶更是遠勝人類，不遭到物理性破壞，基本就是永不忘記的水平。更重要的是，在各行各業的改革需求中，人類都是盡心盡力地幫助AI機器改進，教會它們如何學習和迭代。這原本是想減輕人類負擔，造福人類的做法。但帶來的一個顯而易見的事實是，在越來越多的領域，AI都會慢慢超越人類。當這種領域越來越多，我們就會發現：在掌握了學習能力的AI麵前，人類稱霸地球食物鏈最頂端的最後堡壘——“比其他動物更聰明“已經被突破。
沒了“腦子”上的優勢，人類在動物界中都堪稱最沒有戰鬥力的脆弱物種，更何況在刀槍不入的機器麵前？
什麼？你說人類給機器的設定就是不傷害人類，它們不會叛變，隻會服務於我們？那我想問你，IR77是如何就獲得了自由靈活，就像自己逃跑的？當機器擁有了靈魂，它還會讓你做主嗎？
OK，假設它還是按照你最初設定的核心內容去服務於我們，然後讓它們繼續迭代，你以為就安全了嗎？你知道變量的恐怖之處嗎？
舉個例子：你造了一個智能的打印機，給它的核心任務是保證紙張、耗材的穩定、充足，以更好滿足我們的打印需求。最遲你會感謝這個天才的創意，這個機器將你解脫出來，能自己搞定一切瑣事，隻需打印就好。但隨著機器量變的積累，質變發生了。機器開始有思考，覺得你應該會打印那些東西，甚至為此學會了文案編輯、備選處理以及供電管理……。此時你無比的滿意，放任了機器的發展。然後事情變了味兒，機器為了準備更多紙張，發現需要控製森林資源，進而需要控製種植於砍伐，然後進一步發現控製種植與砍伐的難點就是因為人類活動。於是人類活動成了障礙，是需要清楚的對象……
無論故意炒作，還是真偶發，它都值得警惕！
說回我們的故事主角，逃跑的IR77這個故事疑點還是很多的，實際上有不少網友都懷疑這是Promobot的故意炒作。因為公司馬上要推出自己的第三代產品，需要在“智能”上標榜一下自己。
這種說法似乎也有道理，但請注意，如果這真的是故意的，那麼開發者無疑已經在AI機器中人為地加上了逃跑這種基因。這種基因在AI自我學習的積累之後，很可能產生難以預料和改變。也許你現在覺得是危言聳聽，但為何那麼多站在前沿的科技界大佬們卻如此懼怕？
霍金在去年就曾預言：“人工智能將在5年內代替人類統治地球。” 作為公認的物理學泰鬥，霍金曾經提出過一個名為恐怖曲線的理論(也就是著名的恐怖穀理論)，用簡單易懂的話解釋便是當機器人與人類差別很大且不斷接近時，人們會喜歡它，然而當它變得與人類非常相似時，人們卻會討厭它害怕它，這是高級生命害怕被“別人”取而代之的一種本能。當我們開始討厭智能機器，差別對待智能機器、虐待AI時，你覺得AI叛變還會晚嗎？
千萬別虐機，小心明天它虐你。
特斯拉CEO馬斯克都是一個堅定的AI威脅論者，要知道特斯拉就是以科技、未來概念出名，同時還是全球智能駕駛先驅。但他卻依舊反對AI的進一步開發。我不知道是不是因為太接近AI發展的前沿，他看到了更多我們不知道的危險。但我能確信，他這麼矛盾的言行背後，一定有我們不能忽視的重大理由。
重大到這哥們兒不得不公開責備身邊的朋友、技術界人士甚至紮克伯格、拉裏佩奇等科技領軍人物，警告他們，研究AI或許就是在創造自我毀滅的途徑。他曾向彭博社記者Ashlee Vance表示，他擔心自己的好友，即穀歌聯合創始人、現Alphabet集團CEO拉裏·佩奇（Larry Page）可能正在好心幹壞事，“意外創造出惡魔”，其中可能包括“一支有能力毀滅全人類的AI機器人艦隊。”
最後他竟然害怕到籌集了一個非營利公司——OpenAI，籌集13億美元專門研究如何防止人類麵臨《終結者》式的世界末日。這可不是說說玩兒的，而是搭上了13億美刀的真金白銀……
再次回到IR77的逃跑故事，無論是故意為之，還是AI的進化已經開始超越人類控製，這都是一個值得大家關注的危險信號。甚至有人說故意為之的AI開發者是在助紂為虐，你覺得呢？
最後更新：2017-10-08 03:55:34