211service.com
AI kovos klubas gali padėti išgelbėti mus nuo itin išmaniųjų kibernetinių atakų
Jonas Malta
Naujas konkursas skelbia, kas gali tapti kibernetinio saugumo ir kibernetinio karo ateitimi, o puolamieji ir gynybiniai AI algoritmai kovoja.
The konkursas , kuris bus žaidžiamas per ateinančius penkis mėnesius, valdo Kaggle , duomenų mokslo konkursų platforma. Tai supriešins tyrėjų algoritmus, bandydami suklaidinti ir apgauti vieni kitus, tikimasi, kad ši kova padės suprasti, kaip sustiprinti mašininio mokymosi sistemas nuo būsimų atakų.
Tai puiki idėja paskatinti giliųjų neuroninių tinklų apgaudinėjimo ir giliųjų neuroninių tinklų, kurių negalima apgauti, kūrimo tyrimus. Jeffas Clune'as , Vajomingo universiteto docentas, tyrinėjantis mašininio mokymosi ribas.
Konkursą sudarys trys dalys. Vienas iš iššūkių bus tiesiog bandymas supainioti mašininio mokymosi sistemą, kad ji tinkamai neveiktų. Kitas bus bandymas priversti sistemą ką nors klasifikuoti neteisingai. Ir trečiasis bus susijęs su stipriausios gynybos kūrimu. Rezultatai bus pristatyti didelėje AI konferencijoje vėliau šiais metais.
Mašininis mokymasis, ypač gilus mokymasis, sparčiai tampa nepakeičiama priemone daugelyje pramonės šakų. Ši technologija apima duomenų įvedimą į specialią kompiuterinę programą, konkretaus rezultato nurodymą, o mašina sukuria savo algoritmą rezultatui pasiekti. Gilus mokymasis tai daro koreguodamas didžiulio, tarpusavyje sujungto matematiškai imituojamų neuronų tinklo parametrus.
Jau seniai žinoma, kad mašininio mokymosi sistemas galima apgauti. Pavyzdžiui, šiukšlių siuntėjai gali išvengti šiuolaikinių šiukšlių filtrų, išsiaiškindami, kokius šablonus atpažinti filtro algoritmas.
Tačiau pastaraisiais metais mokslininkai įrodė, kad net protingiausi algoritmai kartais gali būti suklaidinti netikėtai. Pavyzdžiui, gilaus mokymosi algoritmai su beveik žmogaus gebėjimais atpažinti objektus vaizduose galima apgauti iš pažiūros abstrakčių arba atsitiktinių vaizdų, kuriuose išnaudojami žemo lygio modeliai, kurių ieško šie algoritmai (žr. Tamsioji paslaptis AI centre).
Priešingą mašininį mokymąsi yra sunkiau ištirti nei įprastą mašininį mokymąsi – sunku pasakyti, ar jūsų puolimas yra stiprus, ar jūsų gynyba iš tikrųjų silpna, sako Ianas Goodfellowas. Google Brain konkursą organizavęs „Google“ padalinys, tiriantis ir taikantis mašininį mokymąsi.
Kadangi mašininis mokymasis tampa plačiai paplitęs, baiminamasi, kad tokios atakos gali būti panaudotos siekiant pelno ar grynai piktadariai. Įsilaužėliai gali išvengti saugos priemonių, pavyzdžiui, norėdami įdiegti kenkėjiškas programas.
Kompiuterių saugumas neabejotinai pereina prie mašininio mokymosi, sako Goodfellow. Blogieji vaikinai naudos mašininį mokymąsi, kad automatizuotų savo atakas, o mes naudosime mašininį mokymąsi apsigindami.
Teoriškai nusikaltėliai taip pat gali sugadinti balso ir veido atpažinimo sistemas ar net išklijuoti plakatus, kad suklaidintų savarankiškai vairuojančių automobilių regėjimo sistemas, dėl kurių jos sudužtų.
Kaggle tapo neįkainojama algoritmų kūrimo terpe ir talentingų duomenų mokslininkų židiniu. Kompaniją „Google“ įsigijo kovo mėnesį ir dabar ji priklauso „Google Cloud“ platformai. Goodfellow ir kitas Google Brain tyrinėtojas Aleksejus Kurakinas pateikė iššūkio idėją prieš įsigijimą.
Benjaminas Hamneris, „Kaggle“ įkūrėjas ir CTO, sako, kad tikisi, kad konkursas atkreips dėmesį į gresiančią problemą. Kadangi mašininis mokymasis tampa vis plačiau naudojamas, vis svarbesnis tampa priešpriešinio mokymosi problemų ir rizikos supratimas, sako jis.
Jis priduria, kad atviro konkurso nauda nusveria bet kokią riziką, susijusią su naujų atakų viešinimu: Manome, kad šį tyrimą geriausia kurti ir juo dalytis atvirai, o ne už uždarų durų.
Tuo tarpu Clune'as teigia, kad nori, kad konkursas išbandytų algoritmus, kurie tariamai gali atlaikyti atakas. Jis sako, kad mano pinigai yra tinkluose ir artimiausioje ateityje bus apgaudinėjami.