211service.com
JAV kariuomenė finansuoja pastangas sugauti gilius klastojimus ir kitus AI gudravimus
Manote, kad dirbtinis intelektas padės sustabdyti netikras naujienas? JAV kariuomenė nėra tokia tikra.
Gynybos departamentas finansuoja projektą, kuriuo bus bandoma nustatyti, ar vis labiau tikroviškai atrodančio dirbtinio intelekto sukurto netikro vaizdo ir garso netrukus gali būti neįmanoma atskirti nuo tikrojo – net ir kitos AI sistemos atveju.
Šią vasarą pagal projektą, finansuojamą Gynybos pažangių tyrimų projektų agentūra (DARPA) , pirmaujantys pasaulyje skaitmeninės kriminalistikos ekspertai susirinks į AI padirbinėjimo konkursą. Jie varžysis, kad sukurtų įtikinamiausius dirbtinio intelekto sukurtus netikrus vaizdo įrašus, vaizdus ir garso įrašus, taip pat bandys sukurti įrankius, kurie galėtų automatiškai sugauti šiuos padirbinius.
Konkurse bus įtrauktos vadinamosios gilios klastotės, vaizdo įrašai, kuriuose vieno žmogaus veidas yra prisiūtas prie kito žmogaus kūno. Gana nuspėjama, kad ši technologija jau buvo panaudota kuriant daugybę padirbtų įžymybių pornografinių vaizdo įrašų. Tačiau šis metodas taip pat gali būti naudojamas kuriant klipą, kuriame politikas sako ar daro ką nors siaubingo.
DARPA technologai ypač susirūpinę dėl palyginti naujos AI technikos, dėl kurios dirbtinio intelekto padirbinėjimo gali būti beveik neįmanoma automatiškai pastebėti. Naudojant vadinamuosius generacinius priešingus tinklus arba GAN, galima sukurti stulbinančiai tikroviškus dirbtinius vaizdus.
Teoriškai, jei GAN pateiktumėte visus mums žinomus metodus, kad jį aptiktų, jis galėtų išlaikyti visus tuos metodus, sako Davidas Gunningas, DARPA programos vadovas, atsakingas už projektą. Mes nežinome, ar yra riba. Tai neaišku.
GAN susideda iš dviejų komponentų. Pirmasis, žinomas kaip aktorius, bando išmokti statistinius duomenų rinkinio modelius, pavyzdžiui, vaizdų ar vaizdo įrašų rinkinį, ir tada generuoti įtikinamus sintetinius duomenis. Antrasis, vadinamas kritiku, bando atskirti tikrus ir netikrus pavyzdžius. Kritiko atsiliepimai leidžia aktoriui pateikti vis realistiškesnius pavyzdžius. Kadangi GAN jau yra sukurti taip, kad pergudrautų dirbtinio intelekto sistemą, neaišku, ar kokia nors automatizuota sistema galėtų juos sugauti.
GAN yra palyginti nauji, tačiau mašininio mokymosi sceną jie užgrobė audringai (žr. GANfather: Žmogus, kuris mašinoms suteikė vaizduotės dovaną). Jais jau galima susapnuoti labai tikroviškas įsivaizduojamas įžymybes arba įtikinamai modifikuoti vaizdus surauktą kaktą pakeitusi šypsena arba naktį paverčiant diena .
Skaitmeninės klastotės aptikimas paprastai apima tris veiksmus. Pirmiausia reikia ištirti skaitmeninį failą, ar nėra požymių, kad du vaizdai ar vaizdo įrašai buvo sujungti. Antrasis – pažvelgti į apšvietimą ir kitas fizines vaizdų savybes, ar nėra požymių, kad kažkas negerai. Trečias dalykas, kurį sunkiausia padaryti automatiškai ir tikriausiai sunkiausia nugalėti, yra atsižvelgti į loginius neatitikimus, pvz., netinkamą orą numanomai datai arba netinkamą tariamos vietos foną.
Walteris Scheireris , skaitmeninės kriminalistikos ekspertas iš Notre Dame universiteto, dalyvaujantis DARPA projekte, sako, kad ši technologija nuėjo stebėtinai ilgą kelią nuo tada, kai iniciatyva buvo pradėta prieš porą metų. Mes tikrai dalyvaujame ginklavimosi varžybose, sako jis.
Nors patyręs grafikos ekspertas jau seniai galėjo sukurti įtikinamai atrodančius padirbinius, dirbtinis intelektas padarys šią technologiją daug labiau prieinamą. Iš valstybės remiamų aktorių ir Holivudo jis tapo kažkuo „Reddit“, sako Hany Faridas , Dartmuto profesorius, kuris specializuojasi skaitmeninėje kriminalistikoje. Dabar labai svarbu apsaugoti demokratiją.
Deepfakes naudoja populiarią mašininio mokymosi techniką, žinomą kaip gilusis mokymasis, kad į esamą vaizdo įrašą būtų automatiškai įtrauktas naujas veidas. Kai dideli duomenų kiekiai įvedami į labai didelį arba gilų imituojamą neuroninį tinklą, kompiuteris gali išmokti atlikti įvairias naudingas užduotis, pavyzdžiui, labai tikslų veido atpažinimą. Tačiau toks pat metodas palengvina ir kenkėjiškų vaizdo įrašų manipuliavimą. Internete išleistas įrankis leidžia kiekvienam, turinčiam nedidelę techninę patirtį, sukurti naujus padirbinius. Ir to įrankio kūrėjas pasakojo Pagrindinė plokštė kad kuriama dar patogesnė versija.
Žinoma, problema neapsiriboja veido keitimu. Ekspertai vis dažniau teigia, kad netrukus gali būti daug sunkiau sužinoti, ar nuotrauka, vaizdo įrašas ar garso klipas buvo sugeneruoti mašinos. „Google“ netgi sukūrė įrankį „Duplex“, kuris naudoja AI, kad suklastotų telefono skambučius.
aviv ovadya , Mičigano universiteto Socialinės žiniasklaidos atsakomybės centro vyriausiasis technologas, nerimauja, kad dabar kuriamos AI technologijos gali būti naudojamos siekiant pakenkti kieno nors reputacijai, daryti įtaką rinkimams ar dar blogiau. Šios technologijos gali būti panaudotos nuostabiais pramogų būdais, taip pat daugybe labai bauginančių būdų, sakė Ovadya gegužės 15 d. renginys organizuota Bloombergas . Jūs jau turite modifikuotų vaizdų, kurie naudojami siekiant sukelti tikrą smurtą besivystančiame pasaulyje, sakė jis. Tai tikras ir dabartinis pavojus.
Jei technologija negali būti naudojama klastotėms ir dezinformacijai sugauti, gali būti skatinama naudoti įstatymą. Tiesą sakant, šį balandį Malaizija įvedė melagingų naujienų įstatymus. Tačiau Dartmuto Faridas teigia, kad tai gali būti problematiška, nes tiesa pati savaime yra slidi tema. Kaip apibrėžiate netikras naujienas? Tai nėra taip lengva, kaip jūs manote, sako jis. Galiu apkarpyti vaizdą ir iš esmės pakeisti vaizdą. Ir ką tu darai su Svogūnai ?