211service.com
Kiek laiko liko iki AI sistemų nulaužimo naujais kūrybiškais būdais?
Naujausius dirbtinio intelekto metodus įmonės imasi didžiuliu tempu. Neilgai trukus įsilaužėliai taip pat gali pradėti žiūrėti įdėmiau ir sukelti įvairių problemų, apgaudinėdami šias sistemas iliuziniais duomenimis.
Neseniai Barselonoje (Ispanija) vykusioje dirbtinio intelekto konferencijoje Ianas Goodfellowas, OpenAI mokslininkas, atlikęs novatorišką darbą apgaudamas mašininio mokymosi sistemas, sakė, kad atakuoti sistemas lengva. Jis sakė, kad dabar galima padaryti beveik viską, ką blogai galite padaryti su mašininio mokymosi modeliu. O apginti tai tikrai labai sunku.
Per pastaruosius kelerius metus mokslininkai įrodė įvairius būdus, kuriais mašininio mokymosi programomis galima manipuliuoti, išnaudojant jų polinkį pastebėti duomenų modelius. Jie yra pažeidžiami iš dalies dėl to, kad jiems trūksta tikro intelekto. Pavyzdžiui, galima naudoti reklaminį skydą, kad apgaulėtumėte savarankiškai važiuojančių automobilių regėjimo sistemas, kad pamatytų tai, ko ten nėra. Negirdimi signalai gali priversti balsu valdomus padėjėjus imtis nepageidaujamų veiksmų, pvz., apsilankyti svetainėje ir atsisiųsti kenkėjiškos programos dalį.
Goodfellow ir kiti kuria atsakomąsias priemones. Mašininio mokymosi sistemą galima išmokyti atpažinti klaidinančius pavyzdžius ir nekreipti jų į juos. Tačiau apsisaugoti nuo visų galimų užpuolimų yra sudėtinga.
Mašininio mokymosi sistemų apgaudinėjimas gali tapti daugiau nei akademiniu užsiėmimu. Tai labai tikra, sako Patrick McDaniel, Pensilvanijos valstijos universiteto profesorius, nagrinėjęs šią problemą. Mašininio mokymosi sistemos valdo visas funkcijas, iš kurių priešininkai galėtų užsidirbti pinigų, todėl organizuoti ir sudėtingi užpuolikai priims šias atakas.
McDaniel pabrėžia, kad įsilaužėliai daugelį metų pergudrauja mašininio mokymosi sistemas. Pavyzdžiui, nepageidaujamo e. pašto siuntėjai mokymo algoritmus maitina klaidingais el. laiškais, kad vėliau šlamšto pranešimai galėtų praeiti. Jis sako, kad gali praeiti daug laiko, kol atsiras sudėtingesnių išpuolių.
McDaniel sako, kad pirmosios atakos prieš internetines klasifikavimo sistemas įvyks labai greitai. Tai gali būti šiuolaikiniai šiukšlių filtrai, sistemos, skirtos aptikti neteisėtą ar autorių teisių saugomą medžiagą, ir pažangios mašininio mokymosi pagrindu sukurtos kompiuterių saugos sistemos.
Naujame dokumente teigiama, kad problema gali būti labiau paplitusi, nei buvo žinoma anksčiau. Tai rodo, kad tam tikros apgaulės gali būti pakartotinai panaudotos prieš skirtingas mašininio mokymosi sistemas arba net prieš didelę juodosios dėžės sistemą, apie kurią užpuolikas neturi išankstinių žinių.
Klaidos, slypinčios šiuose populiariuose mašininio mokymosi įrankiuose, gali būti dar vienas būdas jas nukreipti. Nauji mašininio mokymosi įrankiai kuriami sparčiai ir dažnai išleidžiami nemokamai internete, prieš juos panaudojant aktyviose paslaugose, tokiose kaip vaizdo atpažinimo ar natūralios kalbos analizės įrankiai.
Kalbėdamas toje pačioje konferencijoje Ispanijoje, Merilendo universiteto doktorantas Octavian Suciu pabrėžė daugybę tokių kai kurių populiarių įrankių pažeidžiamumų. Suciu išanalizavo šių programų šaltinio kodą ir nustatė, kad juo galima manipuliuoti. Jis rado problemų, susijusių su kai kurių įrankių informacijos saugojimu atmintyje, o tai reiškia, kad įvedus labai didelę duomenų dalį, dalis programos gali būti perrašyta ir pakeista jos elgsena.
Suciu spėja, kad šis metodas galėtų būti patogus būdas manipuliuoti, pavyzdžiui, įrankiu, siūlančiu akcijų prognozes, kurias vėliau būtų galima panaudoti trumpinant rinką. Jei [modelis] jums pasakys, kad akcijos padidės, galite pakeisti prognozę ir pasakyti, kad jos sumažės, sako jis.