Trys klastotės keliamos grėsmės, kurių technologija neišspręs

Ekrano kopija iš Putino padirbto vaizdo įrašo MIT technologijų apžvalga

Įsivaizduokite taip: pagaliau egzistuoja visiškai tikslus giluminio padirbinėjimo detektorius. Jis akimirksniu prideda didelę raudoną DEEPFAKE etiketę prie kiekvieno vaizdo įrašo, kuris buvo manipuliuojamas AI, nesvarbu, kaip sklandžiai tikroviškas vaizdo įrašas atrodytų.

Tai gali atrodyti kaip tik tai, ko mums reikia norint kovoti su giliomis klastotėmis, dėl kurių žmonės nerimauja tiesos pabaiga ir demokratijos mirtis . Visiškai tikri manipuliuoti vaizdo įrašai gali būti čia vos po šešių mėnesių , kuriame teigiama, kad 2020 m. JAV prezidento rinkimų kampanija gali tapti netikrų vaizdo įrašų mūšio lauku: Donaldas Trumpas prisipažins sudaręs korumpuotus sandorius su Rusija, Elizabeth Warren pasisako už visišką ginklų uždraudimą, Kamala Harris niekina baltuosius.

Technologai atsakė su daugiau technologijų. The JAV vyriausybė finansavo projektą apie žiniasklaidos kriminalistiką. „Facebook“ ir „Microsoft“ neseniai paskelbė a gilaus padirbinėjimo aptikimo iššūkis, ir Google išleido milžinišką giliųjų padirbinėjimo duomenų bazę, skirtą kovoti su giliomis klastotėmis. Tačiau, nors giliųjų klastotės kūrimo technika yra nauja, didžioji dalis tikrosios žalos, kurią jie kelia – dezinformacija ir priekabiavimas, – nėra, pasak Britt Paris, informacijos tyrinėtojo iš Rutgerso universiteto ir projekto bendraautorio. naujausia duomenų ir visuomenės ataskaita ant gilių padirbinių. Visiškai tikslus giluminio klastojimo detektorius negali pašalinti šios žalos. Štai kodėl.

1) Problema: Deepfake detektoriai negali mums pasakyti, ką reikia ir ko nereikėtų pašalinti

Prisimenate tą sulėtintą Nancy Pelosi vaizdo įrašą? Tai nebuvo gilus klastotė. Ji vis tiek skleidė netiesą, o „Facebook“ nusprendė jos nenutraukti. Gilus klastojimo detektorius nebūtų padėjęs priimant sprendimą. Kuo daugiau imsitės automatizuoto naudojimo, tuo didesnė tikimybė, kad turėsite netikslumų ar cenzūros, sako Kate Klonick, St. Jono universiteto profesorė ir platformų valdymo ekspertė. Apibrėžti satyrą, apibrėžti netikras naujienas, apibrėžti fantastiką – visa tai yra didžiuliai filosofiniai klausimai.

Idėja: geresnis saikas

Visuomenė turi spręsti šias problemas. Iki tol vienas sprendimas galėtų būti suteikti daugiau galių tiems, kurie gali priimti sprendimą: žmogaus turinio moderatoriams. Tuo tikslu moderatoriams būtų galima mokėti daugiau, jie galėtų būti geriau apmokyti ir vertinami kaip svarbi saugaus interneto palaikymo dalis, sako Sarah T. Roberts, UCLA informacijos mokslininkė. Specializuotos patikrintų moderatorių komandos galėtų įvertinti vaizdo įrašo kontekstą, patikrinti jo faktus ir nuspręsti, ar jis turėtų likti platformoje. Jie gali neturėti tobulo atsakymo į tą Pelosi vaizdo įrašą, tačiau jie vis tiek jaustų socialinį ir politinį įvairių gilių klastočių ir jų taikinių poveikį. Jie galėtų tai pasakyti parodija Nicolas Cage'o padirbiniai yra gerai ir netikra pornografija nėra.

Kas nors kitas, kuris galėtų priimti sprendimą dėl gilios klastotės? Vieno auka. Įmonės turėtų padėti lengviau pranešti apie netikrą priekabiavimą, sako Danielle Citron, Bostono universiteto kibernetinės teisės ekspertė. Visi vartotojai turėtų būti mokomi apie savo teises, ataskaitų teikimo veiksmai turi būti akivaizdūs ir prieinami, o ne paslėpti privatumo politikoje.

2) Problema: Deepfake-busting technologija gali nepadėti žmonėms, kuriems labiausiai reikia apsaugos

Istorija parodė, kad naujos technologijos yra naudojamos prieš marginalines grupes, tokias kaip moterys, spalvoti žmonės, LGBT žmonės ir aktyvistai, kol tai netampa pagrindine grėsme, sako Paris. Pavyzdžiui, praėjusio amžiaus dešimtajame dešimtmetyje jau buvo neapdorotų „Photoshop“ nuotraukų su moterų galvomis ant suaugusiųjų kino aktorių kūnų. Valdžios žmonės nepakankamai rūpinosi tuo ką nors padaryti. Jei tuomet būtume atkreipę dėmesį į moterų seksualinio išnaudojimo problemą be jų sutikimo, dabar būtume turėję daug geresnes sąlygas su ja spręsti socialiniu, teisiniu ir kultūriniu požiūriu, sako universiteto teisės mokslininkė Mary Anne Franks. iš Majamio.

Istorija kartojasi. Tyrėjai teigia, kad didžiausia padirbinėjimo rizika yra ne tai, kad jie surengs rinkimus, o tai jie įpratę tyčiotis privačių piliečių.

Idėja: nieko nekurkite nepasitarę su labiausiai paveiktais žmonėmis

Kalbėkitės su žmonėmis, kurie yra labiausiai pažeidžiami gilių klastočių, sako Samas Gregory, „Witness“, ne pelno organizacijos, tiriančios sintetinę laikmeną, programos direktorius. Net jei tikslas yra sukurti giluminį padirbinėjimo detektorių, kyla daug socialinių klausimų. Ar ji bus prieinama žmonėms iš kitų šalių? Ar jis bus išmokytas pastebėti politines klastotes arba lyties ir seksualinį smurtą? Sukūrus infrastruktūrą, tai tikrai atskirti žmonės ir populiacijos yra atskirti, nes jie neturi agentūros, kuri pakeistų infrastruktūrą, sako Gregory.

3) Problema: Deepfalke aptikimas yra per vėlu padėti aukoms

Naudojant gilius klastojimus, po to, kai išleidžiamas vaizdo įrašas ar garsas, nėra daug galimybių, sako Franksas, Majamio universiteto mokslininkas.

Galiojantys įstatymai yra neadekvatūs. Įstatymai, draudžiantys dalytis teisėta privačia informacija, pvz., medicininiais įrašais, netaikomi melagingiems, bet žalingiems vaizdo įrašams. Franksas teigia, kad įstatymai, draudžiantys apsimetinėjimą, yra keistai riboti – jais pagrindinis dėmesys skiriamas tam, kad apsimetinėti gydytoju ar vyriausybės pareigūnu būtų neteisėta. Šmeižto įstatymai reglamentuoja tik melagingus vaizdus, ​​​​kurie subjektas vaizduojamas neigiamai, tačiau Franksas sako, kad turėtume susirūpinti dėl gilių klastočių, kurios klaidingai vaizduoja žmones teigiamai.

Idėja: nauji įstatymai

Teksasas neseniai priėmė įstatymo projektą, kuriuo uždrausta padirbinėti . KAM Kalifornijos gili padirbta sąskaita praėjo abiejuose namuose ir dabar laukia gubernatoriaus Gavino Newsomo parašo. Tuo tarpu atstovė Yvette Clarke, JAV kongresmenė iš Niujorko, neseniai pristatė federalinį įstatymą, vadinamą SUSTIPRINA atskaitomybės aktą . Tai priverstų socialinės žiniasklaidos įmones įdiegti geresnius aptikimo įrankius į savo platformas ir sudaryti galimybę nubausti ar įkalinti žmones, skelbiančius kenkėjiškas giliąsias klastotes.

Savo ruožtu „Franks“ ir „Citron“ rengia federalinį įstatymo projektą, kuriuo būtų galima kriminalizuoti kenkėjiškus padirbinius, kuriuos jie vadina skaitmeninėmis klastotėmis. Jų nuomone, skaitmeninė klastotė yra kažkas, ką protingas žmogus laikytų tikru. Taip pat turi būti padaryta žala konkrečiam asmeniui arba viešajai tvarkai, pavyzdžiui, jei vaizdo įraše melagingai parodytas musulmonas, padaręs nusikaltimą.

Kad bet koks toks įstatymas veiktų JAV, idealu būtų federalinis, o ne valstijos lygis. Dėl įstatymo, vadinamo 230 skyriumi, platformų įmonės nėra teisiškai atsakingos už žalingo trečiųjų šalių turinio prieglobą, nebent jis pažeidžia federalinius baudžiamuosius įstatymus. Jei žalingų vaizdo įrašų paskelbimas taptų nusikaltimu, tai ne tik atgrasytų žmones nuo jų paskelbimo; Tokios platformos kaip „Facebook“ turėtų dirbti daugiau, kad jos nebūtų pašalintos. Šios bendrovės negalės gindamosi pakelti 230 skyriaus, sako Franksas. Jie turėtų bet kokį skaičių gynybos priemonių, tačiau ta konkreti kelias jiems būtų užblokuotas.

paslėpti