AI programa, nurengianti moteris, parodo, kaip gilios klastotės kenkia pažeidžiamiausiems

Moters su neryškiu kūnu vaizdas Ms. Tech/ Originalus vaizdas: Getty

Dėmesys gilioms klastotėms ir sintetinėms laikmenoms pastaraisiais mėnesiais išaugo. Tačiau nors pokalbio metu daugiausia dėmesio buvo skiriama galimam jo poveikiui politikai, keli žmogaus teisių ir technologijų etikos ekspertai perspėjo, kad buvo nepastebėta dar vienos galimos žalos: galimai niokojančių pasekmių moterims ir kitoms pažeidžiamoms gyventojų grupėms, kurioms technologija taikėsi, bet negali. apsisaugoti.

Dabar naujausias „deepfake“ eksperimentas – programėlė „DeepNude“, kuri nurengė moterų nuotraukas – vaidina tuos košmarus. Pirmą kartą pranešė Vice , ji naudojo generatyvius varžovų tinklus arba GAN, kad moterų drabužius iškeistų į labai tikroviškus nuogus kūnus. Straipsnis greitai sukėlė virusinį atsaką, o programos kūrėjas jį uždarė.

„DeepNude“ programa įrodo mūsų didžiausią baimę dėl unikalaus būdo, kuriuo audiovizualiniai įrankiai gali būti ginkluoti prieš moteris, sako Mutale Nkonde, Duomenų ir visuomenės tyrimų instituto bendradarbė, konsultavusi Kongrese atstovės Yvette Clarke pateiktą įstatymo projektą, kuriuo būtų sukurti mechanizmai aukoms. tokių piktavališkų giliųjų klastočių, siekdamos kreiptis į teismą dėl žalos reputacijai.

Programėlė skirta būtent moterims. Vice'as išsiaiškino, kad programinė įranga generuoja tik moters kūno vaizdus, ​​net jei jai buvo suteikta vyro nuotrauka. Anoniminis kūrėjas patvirtino, kad GAN algoritmą išmokė naudoti tik moterų nuogų nuotraukoms (šiuo atveju jų buvo daugiau nei 10 000), nes jas buvo lengviau rasti internete. Tačiau jis taip pat ketino galiausiai sukurti vyrišką versiją.

Nors netikrose klastotėse nebuvo pavaizduotas tikrasis moterų kūnas – jie yra visiškai susintetinti pagal algoritmą – jie vis tiek galėjo padaryti didelės emocinės ir reputacijos žalos. Vaizdus galima lengvai supainioti su tikruoju ir panaudoti kaip keršto pornografiją ar galingą moterų nutildymo priemonę. Tiesą sakant, tai įvyko anksčiau: a moteris žurnalistė Indijoje po to, kai ji pradėjo atskleisti vyriausybės korupciją, jos veidas buvo įskiepytas į pornografinį vaizdo įrašą. Tai akimirksniu paplito virusu, dėl to ji buvo intensyviai persekiojama ir grasinama išžaginti, todėl keliems mėnesiams ji turėjo būti neprisijungusi.

Deepfake nėra nauja grėsmė; manipuliuojama žiniasklaida egzistuoja dar gerokai anksčiau nei dirbtinis intelektas. Tačiau ši technologija paspartino ir išplėtė esamas tendencijas, sako Sam Gregory, žmogaus teisių ne pelno organizacijos „Witness“ programos direktorius. Dėl algoritmų daug daugiau žmonių gali sukurti įtikinamesnę netikrą laikmeną. Taigi viskas, ką žmonės naudojo manipuliuojama žiniasklaida praeityje, pvz., atakuoti žurnalistus, numanyti korupciją ar sumaišyti įrodymus, taps vis labiau įprasta ir pavojingai sunkiai aptikta.

Programėlė niekuo nesiskiria, sako jis. Įvaizdžiu pagrįsta moterų seksualinė prievarta jau egzistavo kaip problema. Dabar „deepfake“ į liepsną įpila kuro.

Pagal tą pačią logiką Nkonde nerimauja, kad moterys nebus vieninteliai pažeidžiami gilių klastočių taikiniai. Mažumos, LGBTQ žmonės ir kitos grupės, dažnai patiriančios didžiausią priekabiavimą internete, greičiausiai taip pat taps aukomis, nors galbūt skirtingais būdais. Pavyzdžiui, per 2016 metų JAV prezidento rinkimų kampaniją Rusijos operatyvininkai naudojo netikras afroamerikiečių asmenybes ir susijusius vaizdus kaip „Facebook“ dezinformacijos kampanijos, skirtos didinti rasinę įtampą tarp amerikiečių, dalis.

Nkonde sako, kad tai buvo naujas būdas slopinti rinkėjus, ir tai buvo neteisėtai pasisavinant žmonių tapatybes internete. Deepfake technologija būtų dar vienas natūralus įrankis piktybiniams veikėjams, kurie apsimetinėja žmonėmis, kuriais jie yra, netrikdančių bendruomenių ir kitaip nedarančių žalos.

Taigi kur mes einame iš čia? Ir Nkonde, ir Gregory praeityje dalijosi panašiomis rekomendacijomis su MIT Technology Review: įmonės ir mokslininkai, gaminantys giliųjų klastočių įrankius, taip pat turi investuoti į atsakomąsias priemones, o socialinės žiniasklaidos ir paieškos įmonės turėtų integruoti šias atsakomąsias priemones tiesiai į savo platformas. „Nkonde“ taip pat ragina reguliavimo institucijas veikti greitai. Ji sako, kad jei vyriausybė neras būdo apsaugoti vartotojų teises, tokių programų daugės.

Technologijos nėra neutralios, sako Gregory. Ši [DeepNude] programa nėra dvejopo naudojimo. Tai vienkartinis naudojimas piktam tikslui ir kuriamas amoraliai.

Turime iš tikrųjų sutelkti dėmesį į generatyvių žiniasklaidos priemonių kūrimo ir dalijimosi etiką, priduria jis. Turėtume tai pakartotinai skambinti.

paslėpti