從自動(dòng)駕駛到深度攝像頭的廣泛普及，人類(lèi)社會(huì)對(duì)AI的應(yīng)用似乎已經(jīng)有了一定信任度，即使機(jī)器從不會(huì)疲勞，但依然會(huì)產(chǎn)生偏離與錯(cuò)誤。下圖是一個(gè)玩具烏龜，至少我們看起來(lái)是個(gè)烏龜，對(duì)吧？但是利用神經(jīng)網(wǎng)絡(luò)構(gòu)建的谷歌識(shí)別系統(tǒng)看來(lái)，這是一把來(lái)復(fù)槍。

這只通過(guò)3D打印的玩具烏龜可以被歸納為“對(duì)抗圖像”。在AI的世界里，這些圖片被設(shè)計(jì)成擁有欺騙機(jī)器視覺(jué)的能力，通過(guò)特殊的樣式讓AI系統(tǒng)失控，我們可以理解這些對(duì)抗圖像是計(jì)算機(jī)眼中的錯(cuò)覺(jué)。因此人們可以通過(guò)這類(lèi)圖片讓人臉識(shí)別系統(tǒng)將你識(shí)別為另一個(gè)人，也可以通過(guò)特定的范式讓計(jì)算機(jī)把可愛(ài)的熊貓識(shí)別為一輛黑白相間的卡車(chē)。

事實(shí)上，如何在算法層面避免這些潛在的對(duì)抗性問(wèn)題已經(jīng)成為一個(gè)非常熱門(mén)的研究領(lǐng)域。過(guò)去這些對(duì)抗性問(wèn)題有過(guò)多次成功騙過(guò)機(jī)器的案例，但也并不是100%成功。如果我們把圖片旋轉(zhuǎn)一個(gè)角度或針對(duì)某一點(diǎn)放大或縮小，機(jī)器便會(huì)通過(guò)過(guò)去學(xué)習(xí)到的模式得出正確的結(jié)論。那么為什么這個(gè)3D打印的烏龜會(huì)這么重要？那是因?yàn)檫@是第一次機(jī)器在在三維世界中，通過(guò)多角度觀察后依然被成功欺騙。

以上案例牽扯出一個(gè)非?，F(xiàn)實(shí)的問(wèn)題，即基于神經(jīng)網(wǎng)絡(luò)的智能系統(tǒng)在越來(lái)越普遍的過(guò)程中 ，隨之而來(lái)的安全隱患也必須給予重視。Labsix 稱(chēng)這部分問(wèn)題叫做 “Expectation Over Transformation”，其實(shí)機(jī)器不止把烏龜看成了來(lái)復(fù)槍?zhuān)舶寻羟蚩闯闪艘槐瓭饪s咖啡，研究人員做了非常多的隨機(jī)測(cè)試，發(fā)現(xiàn)錯(cuò)判率不低。

Labsix 團(tuán)隊(duì)表明，他們用作對(duì)抗圖像測(cè)試所使用的系統(tǒng)是谷歌旗下的一個(gè)免費(fèi)平臺(tái)叫“Inception-v3”，至今這套系統(tǒng)并沒(méi)有對(duì)對(duì)抗性圖片做出修復(fù)，依然在不停的發(fā)現(xiàn)識(shí)別錯(cuò)誤的問(wèn)題。而谷歌至今也沒(méi)有針對(duì)這篇論文和這件事情發(fā)表評(píng)論。但據(jù)相關(guān)人士透露，谷歌已經(jīng)針對(duì)這起事件成立了專(zhuān)項(xiàng)組做跟進(jìn)。