Deepfakes Kongresas panikavo. Tai turi padaryti.

Prezidento Trumpo nuotraukos iliustracija, viena pusė nespalvota, o kita pusė labai prisotinta Ponia Tech; Originali nuotrauka WIN MCNAMEE; GETTY IMAGES

Pastaruoju metu sparčiai išplitęs nufilmuotas Nancy Pelosi vaizdo įrašas išgąsdino Vašingtono įstatymų leidėjus. Vaizdo įrašas, suredaguotas taip, kad ji atrodytų girta, yra tik vienas iš daugelio pavyzdžių per pastaruosius metus, kai manipuliuojama žiniasklaida pateko į pagrindinį viešąjį diskursą. Sausio mėnesį kitaip daktaras vaizdo įrašas nusitaikęs į prezidentą Donaldą Trumpą, galiausiai buvo parodytas per Sietlo televiziją. Šią savaitę į „Instagram“ buvo įkeltas AI sukurtas Marko Zuckerbergo vaizdo įrašas. („Facebook“ pažadėjo jo nepanaikinti.)

Artėjant 2020 m. JAV rinkimams, JAV Kongresas vis labiau nerimauja, kad dėl greito ir lengvo gebėjimo padirbti žiniasklaidą rinkimų kampanijos gali būti pažeidžiamos užsienio pareigūnų taikymui ir pakenkti rinkėjų pasitikėjimui.

Reaguodami į tai, Atstovų rūmai rytoj surengs pirmąjį skirtą klausymą dėl gilių klastotės – dirbtinio intelekto sugeneruotų sintetinių laikmenų klasės. Tuo pačiu metu atstovė Yvette Clarke pateiks įstatymo projektą ta pačia tema. Šią savaitę ne pelno organizacijos paskelbtoje naujoje tyrimo ataskaitoje taip pat pabrėžiama strategija, kaip susidoroti su klastotėmis ir kita netinkama laikmena.

Tai ne pirmas kartas, kai JAV politikos formuotojai siekia imtis veiksmų šiuo klausimu. 2018 m. gruodį senatorius Benas Sasse pristatė a skirtinga sąskaita bando uždrausti kenkėjiškus padirbinėjimus. Senatorius Marco Rubio taip pat ne kartą nuskambėjo pavojaus signalas apie technologijas bėgant metams. Tačiau tai pirmas kartas, kai matome tokias suderintas JAV įstatymų leidėjų pastangas.

Deepfake sąskaita

Įstatymo projekte, kuris buvo keletą mėnesių trukusių diskusijų su kompiuterių mokslininkais, dezinformacijos ekspertais ir žmogaus teisių gynėjais, rezultatas, bus trys nuostatos. Pirmuoju atveju įmonės ir mokslininkai, kuriantys įrankius, kurie gali būti naudojami gilioms klastotėms, automatiškai pridėtų vandens ženklus prie suklastotų kūrinių.

Antrasis reikalautų, kad socialinės žiniasklaidos įmonės sukurtų geresnį manipuliavimo aptikimą tiesiai į savo platformas. Galiausiai, trečioji nuostata sukurtų sankcijas, pvz., baudas ar net įkalinimo laiką, bausti pažeidėjus už piktybinių klastočių, kurios kenkia asmenims arba kelia grėsmę nacionaliniam saugumui, kūrimą. Visų pirma būtų bandoma įvesti naują teisinės gynybos mechanizmą, jei žmonių reputacijai kenkia sintetinė žiniasklaida.

Ši problema liečia ne tik politikus, sako Mutale Nkonde, Duomenų ir visuomenės tyrimų instituto bendradarbė ir įstatymo projekto patarėja. Deepfake vaizdo įrašai yra daug labiau linkę naudoti prieš moteris, mažumas, LGBT bendruomenės žmones, neturtingus žmones. Ir tie žmonės neturės išteklių kovoti su reputacijos rizika.

Nkonde sako, kad įstatymo projekto pristatymo tikslas nėra jo priimti Kongrese. Vietoj to, jis turi paskatinti niuansuotą pokalbį apie tai, kaip spręsti šį klausimą teisės aktuose, siūlant konkrečias rekomendacijas, kurias galima kritikuoti ir patobulinti. Tai, ką mes iš tikrųjų norime padaryti, yra įtraukti į Kongreso įrašą mintį, kad garso ir vaizdo manipuliacijos yra nepriimtinos, sako ji.

Dabartinė giliųjų klastočių būklė

Atsitiktinai žmogaus teisių nepelno organizacija „Witness“ išleido a nauja tyrimo ataskaita šią savaitę dokumentuoja dabartinę giluminio padirbinėjimo technologijos būklę. Deepfake šiuo metu nėra įprasta: jiems sukurti vis dar reikia specialių įgūdžių, o vaizdo įraše jie dažnai palieka artefaktus, pvz., trikdžius ir pikselius, dėl kurių klastotė tampa akivaizdi.

Tačiau technologija sparčiai tobulėjo, o duomenų, reikalingų norint suklastoti vaizdo įrašą, kiekis smarkiai sumažėjo. Prieš dvi savaites Samsung pademonstravo kad iš vienos nuotraukos buvo galima sukurti visą vaizdo įrašą; šią savaitę universiteto ir pramonės mokslininkai demonstravo naują įrankį leidžia vartotojams redaguoti kažkieno žodžius įvesdami tai, ką nori pasakyti.

Taigi tik laiko klausimas, kada padirbinėti padaugės, sako Samas Gregory, „Witness“ programos direktorius. Daugelis būdų, kuriais žmonės svarstytų naudoti gilias klastotes – pulti žurnalistus, numanyti politikų korupciją, manipuliuoti įrodymais – akivaizdžiai yra esamų problemų raida, todėl turėtume tikėtis, kad žmonės išbandys naujausius būdus, kaip tai padaryti efektyviai, sako jis. .

Ataskaitoje pateikiama strategija, kaip pasirengti tokiai artėjančiai ateičiai. Daugelis rekomendacijų ir daug patvirtinančių įrodymų taip pat atitinka pasiūlymus, kurie bus pateikti Atstovų Rūmų įstatymo projekte.

Ataskaitoje nustatyta, kad dabartinės tyrėjų ir technologijų kompanijų investicijos į giliųjų padirbinių kūrimą gerokai viršija investicijas į giliųjų klastotės aptikimą. Pavyzdžiui, „Adobe“ sukūrė daugybę įrankių, palengvinančių medijos keitimą, įskaitant naujausią objektų pašalinimo iš vaizdo įrašų funkciją; tačiau jis nepateikė jiems folijos.

Rezultatas yra neatitikimas tarp realaus žiniasklaidos manipuliavimo pobūdžio ir turimų kovos su ja priemonių. Jei kuriate sintezės ar klastojimo įrankį, kuris yra vientisas žmogaus akiai ar žmogaus ausiai, turėtumėte sukurti įrankius, specialiai sukurtus šiam klastojimui aptikti, sako Gregory. Kyla klausimas, kaip priversti įrankių gamintojus ištaisyti šį disbalansą.

Kaip ir Atstovų Rūmų įstatymo projekte, ataskaitoje taip pat rekomenduojama, kad socialinės žiniasklaidos ir paieškos įmonės geriau integruotų manipuliavimo aptikimo galimybes į savo platformas. „Facebook“ galėtų investuoti į objektų pašalinimo aptikimą, pavyzdžiui, siekdama kovoti su „Adobe“ funkcija ir kitais nesąžiningais redagavimo būdais.

Tada jis turėtų aiškiai pažymėti vaizdo įrašus ir vaizdus naudotojų naujienų kanaluose, kad būtų galima išgirsti, kai jie buvo redaguoti žmogaus akiai nematomu būdu. „Google“, kaip dar vienas pavyzdys, turėtų investuoti į atvirkštinę vaizdo įrašų paiešką, kad padėtų žurnalistams ir žiūrovams greitai nustatyti pirminį klipo šaltinį.

Už Kongreso ribų

Nepaisant glaudaus pranešimo suderinimo su įstatymo projekto projektu, Gregory perspėja, kad JAV Kongresas turėtų du kartus pagalvoti, ar artimiausiu metu priimti įstatymus dėl gilių klastočių. Pasak jo, dar anksti reguliuoti gilias klastotes ir sintetinę laikmeną, nors jis daro išimtis labai siauroms programoms, pavyzdžiui, jų naudojimui kuriant nesąžiningus seksualinius vaizdus. Nemanau, kad mes pakankamai gerai suvokiame, kaip visuomenės ir platformos elgsis su klastotėmis ir sintetinėmis laikmenomis, kad nustatytų taisykles, priduria jis.

Gregory nerimauja, kad dabartinė diskusija Vašingtone gali paskatinti priimti sprendimus, kurie vėliau turės neigiamų pasekmių. Pavyzdžiui, JAV taisyklės gali labai paveikti kitų šalių veiksmus. Be to, nesunku suprasti, kaip šalyse, kuriose yra daugiau autoritarinių vyriausybių, politikus ginančios taisyklės gali būti naudojamos siekiant pateisinti bet kokio prieštaringo ar politinius lyderius kritikuojančio turinio pašalinimą.

Nkonde sutinka, kad Kongresas turėtų imtis pamatuoto ir apgalvoto požiūrio į šį klausimą ir atsižvelgti ne tik į jo poveikį politikai. Labai tikiuosi, kad jie [klausymo metu] kalbės apie tai, kiek žmonių paveiks ši technologija, sako ji, ir apie psichologinį poveikį, kai negalėsite patikėti tuo, ką matote ir girdite.

paslėpti