152
在圖片中加入噪點就能騙過Google最頂尖的圖像識別AI
近期，一群來自華盛頓大學網絡安全實驗室（NSL）的計算機專家發現，惡意攻擊者可以欺騙Google的CloudVision API，這將導致API對用戶提交的圖片進行錯誤地分類。
近些年來，基於AI的圖片分類係統變得越來越熱門了，而這項研究針對的就是這種圖片分類係統。現在，很多在線服務都會采用這種係統來捕捉或屏蔽某些特殊類型的圖片，例如那些具有暴力性質或色情性質的圖片，而基於AI的圖片分類係統可以阻止用戶提交並發布違禁圖片。
雖然這種分類係統使用了高度複雜的機器學習算法，但是研究人員表示，他們發現了一種非常簡單的方法來欺騙Google的Cloud Vision服務。
Google的Cloud Vision API存在漏洞
他們所設計出的攻擊技術其實非常簡單，隻需要在一張圖片中添加少量噪點即可成功欺騙Google的Cloud Vision API。其中的噪點等級可以在10%到30%範圍內浮動，同時也可以保證圖片的清晰度，而且這足以欺騙Google的圖片分類AI了。
向圖片中添加噪點其實也非常的簡單，整個過程並不需要多麼高端的技術，一切隻需要一個圖片編輯軟件即可實現。
研究人員認為，網絡犯罪分子可以利用這種技術來傳播暴力圖片、色情圖片或恐怖主義宣傳圖片。除此之外，Google自己的圖片搜索係統也使用了這個API，這也就意味著，當用戶使用Google進行圖片搜索時，很可能會搜索到意料之外的圖片。
解決這個問題的方法很簡單
研究人員表示，修複這個問題其實跟攻擊過程一樣的簡單，所以Google的工程師們完全沒必要緊張。
為了防止這種攻擊，Google隻需要在運行其圖片分類算法之前，對圖片中的噪點進行過濾就可以了。研究人員通過測試發現，在噪點過濾器的幫助下，Google的Cloud Vision API完全可以對圖片進行適當的分類。
後話
研究人員已經將這種攻擊的完整技術細節在其發表的論文中進行了描述，感興趣的用戶可以閱讀這篇論文【傳送門：https://www.freebuf.com/news/Google%25E2%2580%2599s%20Cloud%20Vision%20API%20Is%20Not%20Robust%20To%20Noise】。
以及值得注意的是，這群研究人員在此之前也使用過類似的方法來欺騙Google的Cloud Video Intelligence API【參考資料：https://www.bleepingcomputer.com/news/technology/researchers-troll-google-video-ai-with-images-of-audi-cars-and-spaghetti/】。
注：他們在一個視頻中每兩秒就插入一張相同的圖片，最後Google的視頻分類AI會根據這張不斷重複出現的圖片來對視頻進行分類，而分類的依據並不是視頻本身的內容。
原文發布時間為：2017-5-6
本文來自雲棲社區合作夥伴“大數據文摘”，了解相關信息可以關注“BigDataDigest”微信公眾號
最後更新：2017-05-16 17:02:01