Deepfake įrankių kūrimas neturi būti neatsakingas. Štai kaip.

„Facebook“ išplatintas pavyzdys, kai dvi moterys gamina kavą: viena yra „deepfake“. Facebook

Sintetinės medijos technologijos – populiariai žinomos kaip giliosios klastotės – turi realią teigiamo poveikio potencialą. Pavyzdžiui, balso sintezė leis mums savo balsu kalbėti šimtais kalbų. Vaizdo įrašų sintezė gali padėti mums imituoti savarankiškai važiuojančių automobilių avarijas, kad išvengtume klaidų ateityje. O teksto sintezė gali paspartinti mūsų gebėjimą rašyti ir programas, ir prozą.

Tačiau ši pažanga gali kainuoti milžinišką kainą, jei nesame atsargūs: tos pačios pagrindinės technologijos taip pat gali sudaryti sąlygas apgaulei, turinčiai pasaulinių pasekmių.

Laimei, galime ir įgalinti technologijos pažadą, ir sumažinti jos pavojų. Tiesiog reikės sunkiai dirbti.

Tai, ką aš čia ginčiju, yra raginimas veikti, kad būtų atliktas šis darbas – ir vadovas, padėsiantis mums kuriant tokias technologijas, nesvarbu, ar atliekame novatoriškus tyrimus, kuriame naujus produktus, ar tiesiog darome atvirus šaltinių sistemos pramogoms. Tai taip pat skirta tiems, kurie investuoja arba finansuoja tokį darbą, žurnalistams, kurie gali padėti užtikrinti, kad technologijų kūrėjai rimtai žiūrėtų į savo poveikį, ir tų, kurie kuria šią technologiją, draugams ar šeimos nariams.

Galime ilgiau nesiimti atsakomybės sakydami, kad nieko negalime padaryti, jei žmonės netinkamai naudoja mūsų įrankius. Nes yra dalykų, kuriuos galime padaryti; tiesiog mes dažnai nesivarginame. Kitas argumentas, kad ši technologija vis tiek bus pateikta, nėra visiškai klaidingas, tačiau tai, kaip ir kada turi didelę reikšmę ir gali pasikeisti dėl mūsų pasirinkimų. (Daugiau apie tai, įskaitant grėsmių modeliavimą, žr. mūsų pilnas popierius , ypač 2 skirsnyje apie tai, kas sukelia žalą.) Galiausiai negalime slėptis už banalaus pripažinimo, kad visada buvo apgaulė, ignoruojant reikšmingus laipsnio ir poveikio skirtumus.

Deepfake technologijos kaina nėra tik teorinė. Sintetiniai veido keitimo vaizdo įrašai persekioja žurnalistus tyloje ; naudojami sintetiniai balsai didelių nesąžiningų sandorių , o sintetiniai veidai turi tariamai rėmė šnipinėjimą . Visa tai yra nepaisant dabartinių iššūkių naudojant nulaužtą beta kokybės programinę įrangą. Kliūtys naudoti sintetinę laikmeną vis dar yra per didelės, kad technologija būtų įtikinama daugeliui kenkėjiškų veikėjų, tačiau kai ji iš klaidingų beta versijų pereina į milijardų žmonių rankas, mes privalome jų vengti. blogiausiu atveju scenarijai kuo sunkiau panaudoti gilius padirbinius blogiui. Kaip?

1 metodas: apriboti, kas gali naudoti įrankį... ir kaip

Yra keletas dalykų, kuriuos galime padaryti, kad kenkėjiško naudojimo tikimybė būtų daug mažesnė. Vienas akivaizdus, ​​paprastas ir veiksmingas būdas yra atsargiai vet tie, kurie gali naudotis įrankiu. Tai patinka įmonėms Sintezija daro – iš esmės dirba tik su patikrintais įmonės klientais.

Alternatyva yra apriboti naudojimą : apriboti tai, ką vartotojai gali sintezuoti ar manipuliuoti. Pavyzdžiui, galima sukurti įrankius, užtikrinančius, kad būtų galima manipuliuoti tik tam tikrais iš anksto pasirinktais balsais ar veidais. Štai kas Žmogaus , pavyzdžiui, daro – suteikia ribotą judesių rinkinį, kurį sugeneruotame vaizdo įraše esantis asmuo gali atlikti.

Tačiau daugeliui sistemų tai gali būti nepasirinkta. Taigi ką dar galima padaryti?

2 metodas: atgrasyti nuo piktavališko naudojimo

Sintetinės medijos įrankiai, kurie yra bendri ir gali būti plačiai prieinami, vis dar yra daug galimų būdų, kaip sumažinti kenkėjišką naudojimą. Štai keletas pavyzdžių.

• Aiškus atskleidimas: Prašykite, kad sintezuota laikmena būtų aiškiai nurodyta kaip tokia, ypač medžiaga, kuri gali būti naudojama suklaidinti. Įrankiai gali tai palaikyti, į išvesties failus įtraukdami aiškius vaizdinius arba garsinius pranešimus, pvz., matomus įspėjimus ar žodinius pranešimus. Mažiausiai metaduomenys turėtų nurodyti, kaip medija buvo susintetinta arba manipuliuojama.
• Sutikimo apsauga: Reikalauti asmenų, kuriais apsimetinėjama, sutikimo. Balso klonavimo įrankis Lyro paukštis reikalauja, kad vartotojai sakytų tam tikras frazes, kad galėtų modeliuoti savo balsą. Tai apsunkina apsimetimą kitu žmogumi be sutikimo, o tai būtų labai įmanoma, jei jis tiesiog generuotų balsus naudodamas bet kurį pateiktą duomenų rinkinį. Tai, žinoma, taikoma tik įrankiams, kurie leidžia apsimetinėti.
• Aptikimo patogumas: Užtikrinkite, kad susintetintas laikmenas nebūtų nepaprastai sunku aptikti; nuolat atnaujinti detektoriaus įrankius; bendradarbiauti su tais, kurie dirba su aptikimu, kad jie žinotų apie naujus pokyčius.
• Paslėpti vandens ženklai: Įterpkite kontekstą apie sintezę (ar net originalią laikmeną) naudodami tvirtus vandens ženklus, naudodami metodus, kurie yra prieinami kiekvienam, turinčiam tinkamus įrankius, ir taikant metodus, kurie yra slapti ir sunkiai pašalinami. (Pavyzdžiui, Modulate.ai vandens ženklų garso, kurį generuoja, o gaminiams patinka Imatag ir jų atvirojo kodo atitikmenys leidžia naudoti vandens ženklus vaizdams.)
• Naudojimo žurnalai: Saugokite informaciją apie naudojimą ir žiniasklaidos rezultatus taip, kad mokslininkai ir žurnalistai galėtų pasiekti, kad nustatytų, ar, pavyzdžiui, vaizdo įrašas tikriausiai buvo susintetintas naudojant tam tikrą įrankį. Tai gali apimti sintezės laiko žymų saugojimą naudojant tvirtą maišą arba medijos įterpimą.
• Naudojimo apribojimai: Pateikite ir vykdykite sutartines naudojimo sąlygas, kurios draudžia ir baudžiama už nepageidaujamus veiksmus, pvz., bandymą pašalinti atskleidimą ar vandens ženklus arba kitų žmonių sutikimo pažeidimą. Stipresnė šio požiūrio versija apima aiškų leistinų technologijos panaudojimo būdų ar gaunamų rezultatų apibrėžimą.

Ne visos šios strategijos yra taikomos kiekvienai sistemai. Kai kurie gali turėti savo pavojų, o nė vienas nėra tobulas arba pakankamas vienas. Jie visi yra gilios gynybos dalis, kur daugiau yra daugiau. Net jei turime patikrinimų ar apribojimų, šie metodai vis tiek daro sistemą tvirtesnę prieš priešininkus. Ir nors šių taisyklių laikymasis gali būti geriausiai tinkamas programinei įrangai kaip paslaugų sistemoms, kurios pristatomos neatskleidžiant jokio šaltinio kodo, jos vis tiek gali būti naudingos atvirojo kodo įrankiams ir modeliams: daugelis blogų veikėjų neturės techninių galimybių gauti aplink šias apsaugos priemones. ( Visas popierius tiria, kada pirmiausia skelbti šaltinio kodą).

Palaiko etiškas giliojo klastojimo priemones

Papildomas darbas siekiant apsaugoti žmones nuo žalos gali būti sunkiai pateisinamas šiuolaikinėje konkurencingoje verslo aplinkoje, kol neįvyks negrįžtama katastrofa. Taigi, kaip padėti užtikrinti, kad šie metodai būtų įgyvendinti, kol dar ne vėlu? Štai keturi dalykai, kuriuos dabar gali padaryti finansuotojai, vyriausybės, žurnalistai ir visuomenė, kad paremtų tuos, kurie gamina etiškas sintetinės žiniasklaidos priemones.

Padarykite teisingą dalyką lengvai

Tai reiškia, kad turime investuoti į visų šių sričių tyrimus, kad turėtume plačiai prieinamas, gerai finansuojamas atvirojo kodo priemones šiems požiūriams įgyvendinti. Informacijos saugos istorija rodo, kad kai lengvai naudojami atvirojo kodo įrankiai gali būti naudojami daiktų saugumui užtikrinti, daug daugiau dalykų tampa saugūs. Čia galioja ta pati logika: bent jau skubiai turime palengvinti standartizuotų atskleidimo metaduomenų, vandens ženklų ir registravimo pateikimą. Mums taip pat reikia mokslinių tyrimų, kad išsiaiškintume, ar įmanoma nustatyti aptikimą parengtuose modeliuose prieš platinant. Be tokios infrastruktūros ir tyrimų pamatysime, kad daug gerų ketinimų naujų įrankių bus naudojami siaubingais būdais.

Puoselėti netinkamo naudojimo mažinimo patirtį

Lygiai taip pat, kaip privatumo ir saugumo srityje, turime remti bendruomenes, kurios orientuojasi į sistemų sugriežtinimą ir kreipimąsi į blogus veikėjus, o įmonės turi mokėti žmonėms, kad jie atliktų šį darbą kaip konsultantai arba namuose.

Venkite finansavimo, kūrimo ir neatsakingų įrankių platinimo

Jei įmonė ar įrankis bent jau nesistengia sumažinti netinkamo naudojimo tikimybės, finansuotojai ir kūrėjai neturėtų jo remti. Įrankių gamintojai, kurie neįgyvendina aukščiau išvardintų geriausių praktikų, turi turėti rimtų priežasčių, o programų parduotuvės jų turėtų reikalauti pagal numatytuosius nustatymus.

Sukurkite normas, laikydami žmones atskaitingus

Jei jie elgiasi aplaidžiai, turėtume juos iškviesti – net jei jie yra mūsų investicijų gavėjai, bendradarbiai, draugai ar šeimos nariai. Etikos normas galime sukurti pagirdami tuos, kurie elgiasi teisingai, o tuos, kurie nesielgia, verčiant daryti geriau.

Deepfake technologijas tobulinančios organizacijos, tokios kaip „Nvidia“, „Adobe“, „Facebook“ ir „Google“, turėtų daug investuoti į visas pirmiau minėtas priemones. Rizikos kapitalistai ir fondai taip pat turėtų prisidėti prie šio darbo ir būti atsargiems, kam jie remia.

Tai tik viena dalis daug platesnių pastangų, kurių reikia, ir daugeliu atvejų tai gali atpirkti mums tik šiek tiek daugiau laiko. Tai reiškia, kad būtina užtikrinti, kad platformos ir politikos formuotojai išmintingai naudotų tą laiką, kad mūsų informacinė ekosistema taptų atsparesnė.

Mūsų praeitis nusėta tų, kurie norėjo atidžiau pristatyti savo išradimus – ir mes turime tik vieną ateitį. Nesugadinkime.

– Avivas Ovadya yra įmonės įkūrėjas Apgalvotas technologijų projektas ir nerezidentas Vokietijos Maršalo fondo demokratijos užtikrinimo aljanso narys. Žr. visą dokumentą apie neigiamo sintetinės žiniasklaidos tyrimų poveikio mažinimą, kurį parašė Jess Whittlestone, čia .

paslėpti