近期，一群來自華盛頓大學網絡安全實驗室（NSL）的計算機專家發現，惡意攻擊者可以欺騙Google的CloudVision API，這將導致API對用戶提交的圖片進行錯誤地分類。
近些年來，基于AI的圖片分類系統變得越來越熱門了，而這項研究針對的就是這種圖片分類系統。現在，很多在線服務都會采用這種系統來捕捉或屏蔽某些特殊類型的圖片，例如那些具有暴力性質或色情性質的圖片，而基于AI的圖片分類系統可以阻止用戶提交并發布違禁圖片。
雖然這種分類系統使用了高度復雜的機器學習算法，但是研究人員表示，他們發現了一種非常簡單的方法來欺騙Google的Cloud Vision服務。
Google的Cloud Vision API存在漏洞
他們所設計出的攻擊技術其實非常簡單，只需要在一張圖片中添加少量噪點即可成功欺騙Google的Cloud Vision API。其中的噪點等級可以在10%到30%范圍內浮動，同時也可以保證圖片的清晰度，而且這足以欺騙Google的圖片分類AI了。
向圖片中添加噪點其實也非常的簡單，整個過程并不需要多么高端的技術，一切只需要一個圖片編輯軟件即可實現。
研究人員認為，網絡犯罪分子可以利用這種技術來傳播暴力圖片、色情圖片或恐怖主義宣傳圖片。除此之外，Google自己的圖片搜索系統也使用了這個API，這也就意味著，當用戶使用Google進行圖片搜索時，很可能會搜索到意料之外的圖片。
解決這個問題的方法很簡單
研究人員表示，修復這個問題其實跟攻擊過程一樣的簡單，所以Google的工程師們完全沒必要緊張。
為了防止這種攻擊，Google只需要在運行其圖片分類算法之前，對圖片中的噪點進行過濾就可以了。研究人員通過測試發現，在噪點過濾器的幫助下，Google的Cloud Vision API完全可以對圖片進行適當的分類。
后話
研究人員已經將這種攻擊的完整技術細節在其發表的論文中進行了描述。已經值得注意的是，這群研究人員在此之前也使用過類似的方法來欺騙Google的Cloud Video Intelligence API【參考資料】。注：他們在一個視頻中每兩秒就插入一張相同的圖片，最后Google的視頻分類AI會根據這張不斷重復出現的圖片來對視頻進行分類，而分類的依據并不是視頻本身的內容。
| 
