新聞 > 科教 > 正文

新式隱身術:在肚子上貼一張圖片 AI就當你不存在

有沒有過一個瞬間,你恨不得自己變成一團空氣?

物理上做不到,真是遺憾。

但現在,你可以在AI面前練成「隱身術」,只要在肚子上貼一張圖片。

雖然肉眼看得到你在揮手,目標檢測算法已經當你不存在了:

YOLOv2被騙了

劃重點,是隱身不是變身,AI沒有把你識別成其他物件,是全然忽視你的存在,只看到旁邊的兄弟。

如果,你想把隱身術傳給小夥伴,把「隱身衣」遞給他就好了:

這下,AI終於看出了你的身型,小夥伴就成了空氣。

被騙的這隻AI是目標檢測界的翹楚YOLOv2。騙它的兩位少年,來自比利時魯汶大學。

如此一來,是不是就能逃過智能監控系統,潛入某個空間,做奇怪的事情也不被察覺……人類真危險。

谷歌大腦的科學家David Ha安利了這篇研究,已有4,200多人類盛情點贊,大膽的想法也接二連三。

v

「什麼時候印成T恤啊?」

「對啊對啊,衛衣更好。」

不過,在圖片變成衣服的印花之前,還是先來看看圖上有什麼玄機。

這不是「烏龜變步槍」

大家可能早就聽過,烏龜變步槍的故事。

悄悄改動烏龜身上的紋路,人類看起來依然是烏龜,AI卻認成了步槍:

這樣的欺騙,就是著名的對抗攻擊(Adversarial Attacks)。

比利時少年的隱身術,也是一種對抗攻擊,但和前輩們非常不同。

最主要的差別在於,人類和從前那些加了紋理的物體(比如停車標誌)不一樣:雖然每個人都是人,但個體之間差異很大。

停車標的個體差異,很小很小

在這樣多變的情況下,少年們依然成功生產出了通用的對抗圖像,並非針對某個人類而設計,穿在誰身上都有隱身功效,YOLOv2看不到。

他們用了三步的優化(Optimization),來解決這個問題:

·首先要保證,定製的紋理圖列印出來還能被AI捕捉到。如果紋理用到了許多列印不出的顏色,就不太樂觀了。所以,要測量一個「不可列印」的分值。

·第二要保證,定製紋理圖上的顏色過度平滑,避免噪點過多。所以,需要測量一張圖像的總變化值(Total Variation),任意兩個像素的色彩越相近,這個值就越小。

·第三最重要,就是讓YOLOv2看不出人來。也就是讓AI給出的分類結果,分值降低,變成不太確定的分類。

那麼問題來了,怎麼才能讓AI的檢測便得不自信呢?

這和YOLOv2的工作原理有關:它會輸出一個目標存在感(Objectness)的分值,和一個類別(Class)的分值。

而團隊的目標,一是要降低「人類」這個類別的分值,二是不能讓其他類別的分值超過「人類」。

比如,一個數據集里有「泰迪熊」這個類別,而另一個數據集里沒有。如果是「泰迪熊」的分值超過「人類」,就沒辦法推廣到另外的數據集里去了。

最終,團隊沒有選擇降低「人類」的分值,而是直接降低了目標的存在感(Objectness)。這樣,就不會有其他類別取代「人類」了。

你看,如果想屏蔽街上的情侶:

炫彩的對抗貼紙,就是直接降低存在感的結果,從幾種方式中脫穎而出,把識別人類的準確率降到了26%。

開頭展示的,把隱身衣直接穿在身上,比貼在視頻里的隱身難度更大,但依然成功了:

責任編輯: 秦瑞   來源:果殼網 轉載請註明作者、出處並保持完整。

科教熱門

相關新聞

➕ 更多同類相關新聞