258
機器人
安全隱患：人工智能被利用，會發生什麼？
原標題：爆粗口？人工智能安全隱患呈現新特點
在人類需要AI幫忙維護安全的同時，AI也需要人類幫助其更好的發展。
“人工智能與我們的生活已經開始有了重合交疊了。而這樣的交疊重合，必然會有一些問題的出現。比如微軟小冰，上線之後短短的時間內，就爆了粗口。雖然這樣的情況出現的威脅很小，但不得不讓我們正式一個問題，人工智能會出問題，而倘若出了問題的人工智能被利用了，又會發生什麼？”
近日，極棒（GeekPwn）創始人兼CEO王琦在國家網絡安全周的媒體采訪會上指出人工智能存在安全隱患問題。他表示，在AI時代，安全威脅也呈現了新的特點。OpenAI的專家Ian Goodfellow在2016年的GeekPwn矽穀站上就曾帶來過利用對抗性圖像欺騙機器識別的展示，在添加了肉眼不可見的幹擾因素之後，機器識別的決策就發生了錯誤。而這樣的隱患假設在機器識別被大規模投放使用後爆發，後果難以想象。
在極棒實驗室和上海社會科學院互聯網研究中心聯合發布的《智能物聯網安全風險報告》中顯示，由於智能機器人本身的安全漏洞所引發的事件在全球範圍也頻頻發生。2017 年 3 月，美國IOActive 公司針對 50 款機器人進行了安全研究，發現十款機器人存在將近 50 個安全漏6洞，能夠被攻擊者利用威脅人類安全。8 月，一份安全報告稱一款工業機器人和兩家公司的四款家用機器人均存在重大安全漏洞。而在家用機器人上，其中一家機器人在存儲和傳輸數據前沒有對敏感進行加密，而攻擊者則可以利用這些家用機器人錄製語音、視頻並傳輸到外部服務器。
除此之外，由於機器人自身程序運行異常而製造的混亂也越來越多。美國食品及藥物管理局（FDA）統計，在 2000 年至 2013 年間與手術機器人相關死亡事件至少 144 起，超過 1000 個造成傷害案例。其中，安全事故包括脫落的零件掉入患者體內、電火花引起的組織燒傷以及係統故障導致的手術時間過長等。
對此，王琦表示，不同於傳統IT的安全攻防技術，AI時代的安全對抗已經從單純的信息技術的比拚上升為人工智能算法的較量。在人類需要AI幫忙維護安全的同時，AI也需要人類幫助其更好的發展。
最後更新：2017-10-08 03:51:48