Naujas giliųjų klastotės aptikimo įrankis turėtų apsaugoti pasaulio lyderius – kol kas

Deepfake ir apsimetinėjančių Barako Obamos pavyzdžių vaizdas Kalifornijos universitetas, Berklis

Dirbtinio intelekto sukurtame vaizdo įraše gali būti parodyta, kaip Donaldas Trumpas sako arba daro ką nors itin piktinančio ir kurstančio. Tai būtų per daug tikėtina, o blogiausiu atveju tai gali pakenkti rinkimams, sukelti smurtą gatvėse arba sukelti tarptautinį ginkluotą konfliktą.

Laimei, naujas skaitmeninės kriminalistikos technika žada apsaugoti prezidentą Trumpą, kitus pasaulio lyderius ir įžymybes nuo tokių gilių klastočių – bent jau kol kas. Naujasis metodas naudoja mašininį mokymąsi, kad analizuotų konkretaus asmens kalbos ir judėjimo stilių, ką mokslininkai vadina minkštuoju biometriniu parašu.

Tyrėjai iš UC Berkeley ir Pietų Kalifornijos universiteto naudojo esamą įrankį, kad išskirtų asmenų veido ir galvos judesius. Jie taip pat sukūrė savo gilius padirbinius Donaldui Trumpui, Barackui Obamai, Bernie Sandersui, Elizabeth Warren ir Hillary Clinton, naudodami generatyvius priešininkų tinklus.

Tada komanda naudojo mašininį mokymąsi, kad atskirtų galvos ir veido judesius, kurie apibūdina tikrąjį asmenį. Šie subtilūs signalai – tai, kaip Bernie Sandersas linkteli, sakydamas konkretų žodį, arba kaip Trumpas šypteli po sugrįžimo – šiuo metu nėra modeliuojami giliai padirbtais algoritmais.

Eksperimentų metu ši technika buvo bent 92 % tiksli aptinkant keletą gilių klastočių variantų, įskaitant apsikeitimus veidais ir tuos, kai apsimetinėja naudoja skaitmeninę lėlę. Jis taip pat galėjo susidoroti su artefaktais failuose, atsirandančiais iš naujo suglaudinant vaizdo įrašą, o tai gali supainioti kitus aptikimo būdus. Tyrėjai planuoja patobulinti techniką, atsižvelgdami ir į asmens kalbos ypatybes. Tyrimas, kuris buvo pristatytas a kompiuterinio matymo konferencija Šią savaitę Kalifornijoje finansavo Google ir DARPA, Pentagono tyrimų sparnas. DARPA finansuoja programą, kuria siekiama sukurti geresnius aptikimo būdus.

Problema, su kuria susiduria pasaulio lyderiai (ir visi kiti), yra ta, kad sukurti vaizdo klastotes naudojant dirbtinį intelektą tapo juokingai paprasta. Klaidingi naujienų pranešimai, fiktyvios socialinės žiniasklaidos paskyros ir netinkami vaizdo įrašai jau pakirto politinių naujienų aprėptį ir diskursą. Politikams ypač rūpi, kad netikra žiniasklaida gali būti panaudota dezinformacijai pasėti per 2020 metų prezidento rinkimus.

Kai kurie įrankiai, leidžiantys užfiksuoti giliai padirbtus vaizdo įrašus, jau buvo sukurti, tačiau klastotojai greitai prisitaikė. Pavyzdžiui, kurį laiką buvo galima pastebėti gilią klastotę, stebint kalbėtojo akių judesius, kurie buvo nenatūralūs giliuose klastojimuose. Tačiau netrukus po to, kai buvo nustatytas šis metodas, gilaus padirbimo algoritmai buvo pakoreguoti, kad būtų geresnis mirksėjimas.

Mes stebime ginklavimosi varžybas tarp skaitmeninių manipuliacijų ir gebėjimo jas aptikti, o dirbtinio intelekto algoritmų pažanga katalizuoja abi puses, sako Hao Li, Pietų Kalifornijos universiteto profesorius ir generalinis direktorius. Pinscreen kurie padėjo sukurti naują techniką. Dėl šios priežasties jo komanda dar neišleido metodo kodo.

Li sako, kad „deepfake“ kūrėjams bus ypač sunku prisitaikyti prie naujos technikos, tačiau jis pripažįsta, kad galiausiai jie tai padarys. Kitas žingsnis siekiant apeiti šią aptikimo formą būtų susintetinti judesius ir elgesį remiantis ankstesniais šio konkretaus asmens stebėjimais, sako jis.

Li taip pat sako, kad kai padirbinėjimus tampa lengviau naudoti ir jie tampa galingesni, kiekvienam gali prireikti apsisaugoti. Pasak jo, pagrindiniai taikiniai iki šiol buvo įžymybės ir politiniai veikėjai. Tačiau nenustebčiau, jei per metus ar dvejus dirbtinius žmones, kurie atrodo niekuo nesiskiriantys nuo tikrų, gali susintetinti bet kuris galutinis vartotojas.

paslėpti