Didžiausia giliųjų klastotės grėsmė nėra pačios gilios klastotės

Vaizdas, kuriame Hitleris sako kalbą, jo veidas pakeistas klaustuku. Ponia Tech

Buvo 2018-ųjų pabaiga, o Gabono žmonės savo prezidento Ali Bongo nebuvo matę viešumoje kelis mėnesius. Kai kas ėmė įtarti, kad jis serga ar net mirė, o valdžia tai slėpė. Siekdama sustabdyti spėliones, vyriausybė paskelbė, kad Bongo patyrė insultą, bet liko geros sveikatos. Netrukus po to išleido vaizdo įrašą kai jis pasakė savo įprastą Naujųjų metų kalbą.

Užuot malšinusi įtampą, vaizdo įrašas padarė visiškai priešingą. Kaip atskleidė skaitmeninių teisių organizacija „Internet Without Borders“, daugelis žmonių galvoja Bongo nužiūrėjo filmuotą medžiagą , iš karto įtarė, kad tai gili klastotė – medijos gabalas, suklastotas arba pakeistas naudojant AI. Tikėjimas paskatino jų įtarimus, kad valdžia kažką slepia. Po savaitės kariškiai pradėjo nesėkmingą perversmą, motyvuodami vaizdo įrašu.

Vėlesnė teismo ekspertizė nerado nieko pakeisto ar manipuliuoto vaizdo įraše. Tai neturėjo reikšmės. Vien idėjos apie gilius klastojimus pakako, kad paspartintų ir taip pavojingos situacijos išaiškinimą.

Artėjant 2020 m. JAV prezidento rinkimams, vis labiau įtikinamos gilios klastotės technologijos sukėlė baimę, kaip tokia suklastota žiniasklaida gali paveikti politinę nuomonę. Bet a nauja ataskaita iš Deeptrace Labs, kibernetinio saugumo įmonės, kurios tikslas buvo aptikti šią apgaulę, nerado jokių žinomų atvejų, kai giliosios klastotės iš tikrųjų būtų naudojamos dezinformacijos kampanijose. Didesnį poveikį turėjo žinojimas, kad jie galėtų būti naudojamas tokiu būdu.

„Deepfake“ kelia pavojų politikai, nes netikra žiniasklaida atrodo tikra, tačiau šiuo metu labiau apčiuopiama grėsmė yra tai, kaip galima pasitelkti giliųjų klastotės idėją, kad tikroji atrodytų netikra, sako Henry Ajderis, vienas iš šios knygos autorių. ataskaita. Ažiotažas ir gana sensacinga aprėptis, spekuliuojanti giliųjų klastotės politiniu poveikiu, užgožė tikrus atvejus, kai gilios klastotės turėjo įtakos.

Dokumentai nebėra įrodymas

Žmogaus teisių aktyvistai ir dezinformacijos ekspertai skambino pavojaus varpais dėl šių atskirų, tačiau persipynusių grėsmių nuo tada, kai scenoje pasirodė klastotės. Per pastaruosius dvejus metus JAV technologijų įmonės ir politikos formuotojai daugiausia dėmesio skyrė pirmai Ajder paminėtai problemai: tai, kaip technologija gali padaryti netikrus dalykus tikrus. Tačiau tai antroji, kuri labiau vargina ekspertus. Nors kliūtys kuriant gilius klastojimus gali sparčiai mažėti, norint suabejoti kažko tikrumu, nereikia jokių technologijų.

Tai suteikia dar vieną ginklą galingiesiems: sakyti „Tai yra klastotė“ apie viską, ką žmonės, kurie neturi valdžios, bando panaudoti norėdami parodyti korupciją.

Nuo pat pradžių tai man kėlė didžiausią nerimą šioje erdvėje, sako Avivas Ovadya, dezinformacijos ekspertas, dabar vadovaujantis ne pelno siekiančiam Thoughtful Technology Project.

Pasitikėjimo žiniasklaida pažeminimas gali turėti didelių pasekmių, ypač trapioje politinėje aplinkoje. Semas Gregory, ne pelno siekiančios organizacijos „Witness“, padedančios žmonėms dokumentuoti žmogaus teisių pažeidimus, programos direktorius pateikia pavyzdį. Brazilijos, kuri patyrė policijos smurto istoriją, piliečiai ir aktyvistai dabar nerimauja, kad bet koks vaizdo įrašas, kuriame jie filmuojami, kaip pareigūnas nužudo civilį, nebebus pakankamas pagrindas tyrimui. Ši baimė, kad tikri įrodymai gali būti atmesti kaip netikri, sako Gregory, tapo pasikartojančia tema jo rengiamuose seminaruose visame pasaulyje.

Tai teiginio, kad kažkas yra „netikros naujienos“, evoliucija, sako jis. Tai suteikia dar vieną ginklą galingiesiems: sakyti „Tai netikras“ apie viską, ką žmonės, kurie yra praradę valdžią, bando panaudoti korupcijai ir žmogaus teisių pažeidimams parodyti.

Įrodyti, kad tikras yra tikras, o netikras yra netikras

Norint išspręsti šias problemas, reikės suprasti abiejų rūšių grėsmes. Esant aukštam lygiui, norite kuo lengviau parodyti, kad tikras dalykas yra tikras ir kad netikras daiktas yra netikras, sako Ovadja.

Pastaraisiais mėnesiais daugelis tyrimų grupių ir technologijų įmonių, pvz., „Facebook“ ir „Google“, daugiausia dėmesio skyrė įrankiams, skirtiems klastotėms atskleisti, pavyzdžiui, duomenų bazėms, skirtoms aptikimo algoritmų mokymui ir vandens ženklai kuriuos galima integruoti į skaitmeninių nuotraukų failus, kad būtų atskleista, ar jie yra sugadinti. Keletas pradedančiųjų įmonių taip pat ieško būdų, kaip sukurti pasitikėjimą naudojant vartotojų programas, kurios patvirtina nuotraukas ir vaizdo įrašus, kai jie daromi, kad būtų galima palyginti, jei turinio versijos bus išplatintos vėliau. Gregory sako, kad technologijų gigantai turėtų integruoti abiejų rūšių patikrinimus tiesiai į savo platformas, kad jie būtų plačiai prieinami.

Tačiau technologijų įmonės taip pat turi samdyti žmonių turinio moderatorius, o žiniasklaidos organizacijos turi apmokyti žurnalistus ir faktų tikrintojus tiek aptikimo, tiek tikrinimo srityse. Vietinės ataskaitos gali patvirtinti, ar vaizdo įrašas atspindi tikrovę, ir pridėti svarbų niuansų sluoksnį. Techniniai modeliai negali interpretuoti suklastoto vaizdo įrašo turinio įvairiuose kultūriniuose kontekstuose arba įsivaizduoti, kaip jis galėtų būti toliau rekontekstualizuotas, sako Britas Paris, informacijos tyrimų ekspertas, neseniai paskelbęs ataskaitą apie gilius klastojimus.

Tai, ko [dezinformacijos veikėjai] iš tikrųjų nori, yra ne tai, kad jūs klaustumėte daugiau, o kad jūs viskuo kvestumėte.

Kaip pavyzdį Paryžius nurodo pakeistus Nancy Pelosi ir Jimo Acostos vaizdo įrašus, kurie per pastaruosius metus išplito. Abi buvo vadinamosios pigios klastotės, o ne gilios klastotės – jų greitis buvo tiesiog sugadintas siekiant suklaidinti žiūrovus. Paryžiaus teigimu, šių padirbinių nebūtų įmanoma sugauti naudojant techninius giliųjų padirbinių gaudymo metodus. Vietoj to, žurnalistai turėjo juos demaskuoti, o tai reiškė, kad žmonės turėjo pasitikėti žurnalistais.

Galiausiai visi ekspertai sutinka, kad visuomenei reikia didesnio žiniasklaidos raštingumo. Yra skirtumas tarp įrodinėjimo, kad tikras daiktas yra tikras, ir tai, kad visuomenė tiki, kad tikras dalykas yra tikras, sako Ovadya. Jis sako, kad žmonės turi žinoti, kad turinio falsifikavimas ir abejonių dėl turinio tikrumo kėlimas yra taktika, kuria galima sąmoningai pasėti painiavą.

Tačiau Gregory perspėja neužkrauti per didelės naštos naujienų vartotojams. Tyrėjai, platformos ir žurnalistai turėtų kuo daugiau dirbti, kad padėtų išsiaiškinti, kas yra tikra, o kas netikra, kol naujienos pasiekia visuomenę.

Ovadya sako, kad galutinis tikslas yra ne įteigti bendrą skepticizmą, o sukurti socialinę, šviečiamąją, skiepijančią infrastruktūrą, skirtą neutralizuoti gilių klastotės poveikį. Ko turėtume stengtis išvengti? jis klausia. Verta kvestionuoti įrodymus. Bet ko [dezinformacijos veikėjai] iš tikrųjų nori, ne jūs daugiau kvestionuojate, o jūs viskuo kvestionuojate.

Jis priduria: „Tai yra priešingybė tam, ko mes ieškome“.

Jei norite, kad daugiau tokių istorijų būtų pristatyta tiesiai į jūsų pašto dėžutę, užsiprenumeruokite Webby nominuotą AI informacinį biuletenį The Algorithm. Tai nemokama.

paslėpti