Naujas vaizdų rinkinys, suklaidinantis AI, gali padėti padaryti jį labiau apsaugotą nuo įsilaužėlių

nuotrauka, kurioje pavaizduotas grybas, laumžirgis ir voverė, visi klaidingai paženklinti kaip kliņģeris, šulinio dangtis ir jūrų liūtas Unsplash: Florian Van Duyn / Krzysztof Niewolny / Pranay Pareek

Dirbtinis intelektas puikiai atpažįsta objektus vaizduose, tačiau vis tiek gana lengva jį sujaukti. Įtraukite kelis pasirinktus potėpius arba sluoksnį į statinį triukšmą, nematomą žmogaus akiai, ir galėsite išjungti vaizdo atpažinimo sistemą, kartais sukeldami mirtiną poveikį. Pridėjus lipdukus prie „Stop“ ženklo, savarankiškai važiuojantis automobilis gali patikėti, kad ženklas riboja 45 mylių per valandą greičio ribą, o pridėjus juos prie kelio „Tesla“ gali išskristi į priešpriešinio eismo juostą. (Geriausia, kad tie patys metodai taip pat gali apsaugoti jus nuo stebėjimo būsenos. Dalį laimite, kai ką prarandate.)

Visi šie pavyzdžiai yra žinomi kaip prieštaringi pavyzdžiai, o mokslininkai dabar ieško būdų, kaip apsaugoti dirbtinio intelekto sistemas nuo jų. Tačiau a popierius Praėjusiais metais grupė „Google Brain“ ir „Prinstono“ tyrėjų, įskaitant vieną iš pirmųjų šios temos tyrinėtojų Ian Goodfellow, teigė, kad atsirandanti stipendija buvo per daug teorinė ir praleido esmę.

Nors didžioji dalis tyrimų buvo skirta sistemų apsaugai nuo specialiai sukurtų trikdžių, įsilaužėlis, anot jų, greičiausiai pasirinks neryškesnį įrankį: visiškai kitokią nuotrauką, o ne triukšmo raštą, skirtą ant esamos nuotraukos. Tai taip pat gali sukelti netinkamą sistemos veikimą.

Ši kritika paskatino Daną Hendrycksą, Kalifornijos universiteto Berklio doktorantą, sudaryti naujas vaizdo duomenų rinkinys . Jame esančius vaizdus jis vadina natūraliais priešiškumo pavyzdžiais – be jokių ypatingų pakeitimų jie vis tiek apgauna sistemą.

Tai apima tokius dalykus kaip voverė, kurią įprastos sistemos klaidingai pavadina jūrų liūtu, arba laumžirgis, kurį klaidingai identifikuoja kaip šulinio dangtį. Jis sako, kad nuo šių pavyzdžių daug sunkiau apsiginti. Sintetiniai priešingi pavyzdžiai turi žinoti visas AI sistemos apsaugos priemones, kad būtų veiksmingiausios. Priešingai, natūralūs pavyzdžiai gali gana gerai veikti net tada, kai pasikeičia šios gynybos priemonės, sako jis.

Praėjusią savaitę tarptautinėje mašininio mokymosi konferencijoje Hendrycks išleido ankstyvą duomenų rinkinio versiją su maždaug 6000 vaizdų. Po poros savaičių jis planuoja išleisti galutinę versiją su beveik 8 tūkst. Jis ketina mokslinių tyrimų bendruomenei naudoti duomenų rinkinį kaip etaloną.

Kitaip tariant, užuot mokę vaizdo atpažinimo sistemas tiesiai ant vaizdų, jos turėtų jas rezervuoti tik bandymams. Jis sako, kad jei žmonės tiesiog mokytųsi šio duomenų rinkinio, tai tiesiog įsimena šiuos pavyzdžius. Tai būtų duomenų rinkinio išsprendimas, bet ne užduotis būti atspariam naujiems pavyzdžiams.

Sulaužius kartais gluminančių klaidų, kurias sukelia pavyzdžiai, logiką, sistemos gali būti atsparesnės. Kaip tai klaidina laumžirgį gvakamoliui? Hendrycksas juokauja. Nelabai aišku, kodėl iš viso daroma klaida.

paslėpti