Kompiuterinio matymo algoritmus vis dar per lengva apgauti

Kategorija: Dirbtinis intelektas Paskelbta Gruodžio 20 d

Dirbtinio intelekto vaizdų atpažinimas padarė keletą stulbinančių pažangų, tačiau, kaip rodo nauji tyrimai, sistemas vis tiek gali sugadinti pavyzdžiai, kurie niekada neapgaus žmogaus.

Labsix, MIT studentų grupė, kuri neseniai apgavo Google sukurtą vaizdų klasifikatorių, kad galvotų a 3-D atspausdintas vėžlys buvo šautuvas , išleido a laikraštis trečiadienį kuriame detalizuojama kitokia technika, galinti dar greičiau apgauti sistemas. Tačiau šį kartą jiems pavyko apgauti juodąją dėžę, kurioje jie turėjo tik dalinę informaciją apie tai, kaip sistema priima sprendimus.

Naujasis komandos algoritmas pradedamas nuo vaizdo, kurį ji nori naudoti, kad apgautų kitą sistemą (pavyzdyje iš jų popieriaus tai yra šuo), o tada pradeda keisti pikselius, kad vaizdas būtų panašesnis į pirminį vaizdą; šiuo atveju slidininkai. Veikdamas priešpriešinis algoritmas meta iššūkį vaizdo atpažinimo sistemai su vaizdo versijomis, kurios greitai patenka į teritoriją, kurią bet kuris žmogus atpažintų kaip slidininkus (žr. gif failą aukščiau). Tačiau visą laiką algoritmas palaiko tik tinkamą sabotuotų pikselių derinį, kad sistema manytų, jog žiūri į šunį.

Tyrėjai išbandė savo metodą naudodami „Google“ Cloud Vision API – tai geras bandymas iš dalies, nes „Google“ nepaskelbė nieko apie tai, kaip veikia kompiuterinės regos programinė įranga, ar net apie visas sistemas naudojamų vaizdų klasifikavimo etiketes. Komanda teigia, kad iki šiol jie tik bandė sugadinti „Google“ sistemą, tačiau jų technika turėtų veikti ir kitose vaizdo atpažinimo sistemose.

Ten dirba daug tyrėjų atremti prieštaringi pavyzdžiai kaip šis, bet saugai svarbiems tikslams, pvz autonominės transporto priemonės , dirbtiniu intelektu nepasitikėsite tol, kol priešpriešinių išpuolių bus neįmanoma arba bent jau daug sunkiau surengti.