211service.com
Netikra Amerika vėl puiki
Varžybose, siekiant sugauti nerimą keliančius tikrus padirbinius, kuriuos galima padaryti naudojant dirbtinį intelektą. 2018 m. rugpjūčio 17 d
Bruce'as Petersonas
Spėk? Ką tik gavau gėdingą vaizdo įrašą, kuriame Teksaso senatorius Tedas Cruzas dainuoja ir giriasi Tinai Turner. Jo politiniams priešams bus labai smagu tai parodyti per vidurio kadenciją. Donaldas Trumpas jį vadins Dancin' Ted.
Gerai, prisipažinsiu – vaizdo įrašą sukūriau pats. Tačiau čia yra nerimą keliantis dalykas: norint jį sukurti, reikėjo labai mažai vaizdo redagavimo įgūdžių. Atsisiunčiau ir sukonfigūravau programinę įrangą, kuri naudoja mašininį mokymąsi, kad atliktų įtikinamą skaitmeninį veido keitimą. Gautame vaizdo įraše, žinomame kaip „deepfake“, rodomos išskirtinai nukritusios Cruz akys, prigludusios prie aktoriaus Paulo Ruddo, žaidžiančio lūpų sinchronizavimo karaoke, bruožų. Jis nėra tobulas – yra kažkas šiek tiek ne taip, bet kai kuriuos žmones tai gali apgauti.
Ši istorija buvo mūsų 2018 m. rugsėjo mėnesio numerio dalis
- Žr. likusią numerio dalį
- Prenumeruoti
Nuotraukų klastojimas toli gražu nėra naujas, tačiau dirbtinis intelektas visiškai pakeis žaidimą. Dar visai neseniai tik didelio biudžeto kino studija galėjo atlikti vaizdo veidų keitimą, ir tai tikriausiai būtų kainavusi milijonus dolerių. Dirbtinis intelektas dabar suteikia galimybę visiems, turintiems gerą kompiuterį ir turintiems keletą laisvų valandų, padaryti tą patį. Tolesnė mašininio mokymosi pažanga padarys dar sudėtingesnę apgaulę, o padirbinėjimą bus sunkiau pastebėti.
Šie pažanga kelia grėsmę dar labiau ištrinti liniją tarp tiesos ir fantastikos politikoje. Jau dabar internetas spartina ir sustiprina dezinformacijos sklaidą per netikras socialinių tinklų paskyras. Alternatyvūs faktai ir sąmokslo teorijos yra paplitę ir plačiai tikima. Netikros naujienos, neskaitant galimos įtakos praėjusiems JAV prezidento rinkimams, per pastaruosius metus sukėlė etninį smurtą Mianmare ir Šri Lankoje. Dabar įsivaizduokite, kad į mišinį įtraukiate naujų tikroviškai atrodančių netikrų vaizdo įrašų: politikai skleidžia nesąmones ar etninius įžeidinėjimus arba yra sugauti netinkamai besielgiantys vaizdo įraše – nebent to iš tikrųjų nebuvo.
Niujorko universiteto profesorius ir knygos autorius Charlesas Seife'as teigia, kad „Deepfake“ gali sužlugdyti politinį diskursą. Virtuali nerealybė: tiesiog todėl, kad internetas jums pasakė, kaip jūs žinote, kad tai tiesa? Seife'as prisipažįsta nustebęs, kaip greitai viskas pažengė į priekį nuo jo knygos paskelbimo 2014 m.. Technologijos nerimą keliančiu greičiu keičia mūsų realybės suvokimą, sako jis.
Ar įžengsime į erą, kai negalime niekuo pasitikėti, net ir autentiškai atrodančiais vaizdo įrašais, kuriuose, atrodo, užfiksuotos tikros naujienos? Kaip nuspręsti, kas yra patikima? Kuo mes pasitikime?
Šios Tedo Cruzo ir Paulo Ruddo nuotraukos buvo paimtos iš filmuotos medžiagos, kuri buvo pateikta veido keitimo programai.
Tikra netikra
Suvienodintos kelios technologijos, kurios palengvina klastojimą ir yra lengvai prieinamos: išmanieji telefonai leidžia bet kam užfiksuoti vaizdo medžiagą, o galingi kompiuterinės grafikos įrankiai tapo daug pigesni. Pridėkite dirbtinio intelekto programinę įrangą, kuri leidžia daiktus iškraipyti, permaišyti ir sintetinti naujais, įkvepiančiais būdais. AI nėra tik geresnė „Photoshop“ ar „iMovie“ versija. Tai leidžia kompiuteriui sužinoti, kaip atrodo ir skamba pasaulis, kad būtų galima sukurti įtikinamus simuliakrus.
„Cruz“ klipą sukūriau naudodamas „OpenFaceSwap“ – vieną iš kelių veido perjungimo programų, kurias galite atsisiųsti nemokamai. Jums reikia kompiuterio su pažangia grafikos lustu, ir tai gali atgauti kelis tūkstančius dolerių. Tačiau taip pat galite išsinuomoti prieigą prie virtualios mašinos už kelis centus per minutę naudodami debesies mašinų mokymosi platformą, pvz., „Paperspace“. Tada tiesiog nufilmuojate du vaizdo klipus ir atsisėdate kelias valandas, kol algoritmas nustato, kaip atrodo ir juda kiekvienas veidas, kad galėtų susieti vienas su kitu. Pradėti darbą yra menas: jei pasirinksite pernelyg skirtingus klipus, rezultatas gali būti košmariškas nosies, ausų ir smakro maišymas.
Tačiau procesas yra pakankamai lengvas.
Pradėti dirbti yra menas: jei pasirinksite pernelyg skirtingus klipus, rezultatas gali būti nosies, ausų ir smakro maišymas.
Nuspėjama, kad veido keitimas pirmą kartą buvo pritaikytas pornografijai kurti. 2017 m. anoniminis „Reddit“ vartotojas, žinomas kaip „Deepfakes“, naudojo mašininį mokymąsi, kad garsių aktorių veidus pakeistų scenomis, kuriose vaidinamos suaugusiems skirtų filmų žvaigždės, o rezultatus paskelbė antrinėje svetainėje, skirtoje nutekintai įžymybių pornografijai. Kitas „Reddit“ vartotojas išleido lengvai naudojamą sąsają, dėl kurios padaugėjo netikros pornografijos, taip pat dėl kažkokių keistų priežasčių begaliniai aktoriaus Nicolaso Cage'o klipai filmuose, kuriuose jis iš tikrųjų nedalyvavo. Net „Reddit“, a. Liūdnai žinomas laisvas „Hangout“, uždraudė tokią nesąmoningą pornografiją. Tačiau reiškinys išlieka tamsesniuose interneto kampeliuose.
„OpenFaceSwap“ naudoja dirbtinį neuroninį tinklą, kuris šiuo metu yra pagrindinis AI įrankis. Labai dideli arba gilūs neuroniniai tinklai, į kuriuos tiekiamas didžiulis treniruočių duomenų kiekis, gali padaryti daug naudingų dalykų, įskaitant žmogaus veidą tarp milijonų vaizdų. Jie taip pat gali būti naudojami vaizdams manipuliuoti ir sintezuoti.
„OpenFaceSwap“ treniruoja gilųjį tinklą, kad užkoduotų veidą (procesas, panašus į duomenų glaudinimą), taip sukuriant vaizdą, kurį galima iššifruoti, kad būtų galima atkurti visą veidą. Triukas yra įvesti užkoduotus vieno veido duomenis į kito veido dekoderį. Tada neuroninis tinklas, dažnai stebėtinai tiksliai, užburs vieną veidą, imituojantį kito išraiškas ir judesius. Gautas vaizdo įrašas gali atrodyti keistas, tačiau „OpenFaceSwap“ automatiškai sulies kraštus ir pakoreguos naujai persodinto veido spalvą, kad viskas atrodytų tikresnė.
Kairėje: OpenFaceSwap peržiūri bandymus apsikeisti veidus treniruotės metu. Ankstyvieji bandymai dažnai gali būti šiek tiek keisti ir groteskiški.
Teisingai: programinė įranga užtrunka kelias valandas, kad sukurtų gerą veido apsikeitimą. Kuo daugiau treniruočių duomenų, tuo geresnis galutinis rezultatas.
Panaši technologija taip pat gali būti naudojama norint atkurti kieno nors balsą. Startuolis, pavadintas Lyrebird, paskelbė įtikinamus Baracko Obamos ir Donaldo Trumpo demonstracinius įrašus, kuriuose kalbama apie visiškai sugalvotus dalykus. Lyrebird teigia, kad ateityje jis apribos savo balso dubliavimą žmonėms, kurie davė leidimą, bet tikrai ne visi bus tokie skrupulingi.
Vienas startuolis paskelbė įtikinamus Baracko Obamos ir Donaldo Trumpo demonstracinius įrašus, kuriuose kalbama apie visiškai sugalvotus dalykus.
Yra nusistovėję metodai, leidžiantys atpažinti apdorotus vaizdus ir vaizdo įrašus. Viena iš galimybių yra ieškoti internete vaizdų, kurie galėjo būti sumaišyti. Techniškesnis sprendimas yra ieškoti signalinių skaitmeninio failo arba vaizdo ar vaizdo įrašo kadro pikselių pakeitimų. Ekspertas gali ieškoti vizualinių neatitikimų – šešėlio, kurio neturėtų būti, arba netinkamo dydžio objekto.
Dartmuto universiteto Hany Faridas, vienas žymiausių pasaulio ekspertų, parodė, kaip galima atkurti 3D vaizdą, kad būtų galima atrasti fizinių keistenybių. Jis taip pat įrodė, kad subtilūs vaizdo pikselių intensyvumo pokyčiai, nurodantys žmogaus pulso dažnį, gali būti naudojami norint pastebėti skirtumą tarp realaus žmogaus ir kompiuterio sukurto. Neseniai vienas iš buvusių Farido mokinių, dabar profesorius Niujorko valstijos universitete Olbanyje, parodė, kad netaisyklingas akių mirksėjimas gali padovanoti veidą, kuriuo manipuliavo dirbtinis intelektas.
Vis dėlto dauguma žmonių negali dirbti tokio detektyvinio darbo ir neturi laiko išstudijuoti kiekvieno paveikslėlio ar klipo, pasirodančio feisbuke. Taigi, kai vizualinis klastojimas tapo vis dažnesnis, buvo stengiamasi automatizuoti analizę. Ir paaiškėja, kad gilus mokymasis ne tik puikiai tinka sugalvoti, bet ir idealiai tinka vaizdams ir vaizdo įrašams tikrinti, ar nėra klastojimo požymių. Tačiau šios pastangos dar tik prasidėjo ir galiausiai gali sutrukdyti tai, kaip tikroviški gali tapti automatizuoti klastotės.
Apgaulės tinklai
Viena iš naujausių dirbtinio intelekto tyrimų idėjų apima neuroninių tinklų pavertimą prieš save, kad būtų sukurti dar tikroviškesni klastotės. Generatyvusis priešininkų tinklas arba GAN naudoja du giluminius neuroninius tinklus: vieną, išmoktą atpažinti tikrus vaizdus ar vaizdo įrašus, ir kitą, kuris laikui bėgant išmoksta pergudrauti savo kolegą. GAN galima išmokyti sukurti stebėtinai tikroviškus netikrus vaizdus.
Be veidų kopijavimo ir keitimo, GAN gali sudaryti galimybę susintetinti ištisas scenas ir žmones, kurie atrodo gana tikroviški, paverčiant dienos sceną nakties ir susapnuoti įsivaizduojamas įžymybes. GAN neveikia idealiai, bet jie nuolat gerėja, ir tai yra karšta tyrimų sritis ( MIT technologijų apžvalga GAN pavadino viena iš 10 2018 m. pažangių technologijų).
GAN gali paversti dienos scenas naktinėmis ir susapnuoti įsivaizduojamus įžymybių veidus.
Labiausiai nerimą kelia tai, kad ši technika taip pat gali būti naudojama siekiant išvengti skaitmeninės kriminalistikos. JAV gynybos pažangių tyrimų projektų agentūra pakvietė mokslininkus dalyvauti konkurse šią vasarą, kurio metu vieni kūrė netikrus vaizdo įrašus naudodami GAN, o kiti bandė juos aptikti. GAN yra ypatingas iššūkis mums kriminalistikos bendruomenėje, nes jie gali būti nukreipti prieš mūsų teismo medicinos metodus, sako Faridas. Belieka laukti, kuri pusė nugalės.
Tai pabaiga
Jei nebūsime atsargūs, tai gali baigtis pasaulio pabaiga arba bent jau tuo, kas taip atrodo.
Balandį tariamai BBC naujienų reportaže buvo paskelbta apie branduolinio konflikto tarp Rusijos ir NATO pradžią. Vaizdo klipe, kuris pradėjo plisti pranešimų platformoje WhatsApp, buvo rodoma, kaip raketos sprogo, naujienų pranešėjui pranešus žiūrovams, kad Vokietijos miestas Maincas buvo sunaikintas kartu su dalimi Frankfurto.
Žinoma, tai buvo visiškai netikra, ir BBC suskubo tai pasmerkti. Vaizdo įrašas nebuvo sukurtas naudojant AI, tačiau jis parodė netikrų vaizdo įrašų galią ir tai, kaip jis gali skleisti gandus. Daugėjant dirbtinio intelekto programų, tokius vaizdo įrašus bus daug lengviau kurti ir jie bus dar įtikinamesni.
Net jei mūsų neapgauna netikros naujienos, tai gali turėti skaudžių pasekmių politinėms diskusijoms. Kaip dabar esame įpratę abejoti, ar nuotrauka galėjo būti apdorota „Photoshop“ programa, dirbtinio intelekto sukurtos klastotės gali paskatinti mus labiau įtarti įvykius, kuriuos matome dalijantis internete. Ir tai gali prisidėti prie tolesnės racionalių politinių diskusijų erozijos.
Į Tiesos mirtis Literatūros kritikas Michiko Kakutani, išleistas šiais metais, teigia, kad alternatyvūs faktai, netikros naujienos ir bendras šiuolaikinės politikos pamišimas yra kultūros srovių, besitęsiančių dešimtmečius, kulminacija. Kakutanis mano, kad hiperrealūs AI klastotės yra tik paskutinis stiprus smūgis objektyvios tikrovės koncepcijai.
Dar prieš tai, kai technologija dar pagerėjo, faktas, kad ji egzistuoja ir yra būdas sumažinti pasitikėjimą teisėta medžiaga, yra labai problemiškas, sako Renee DiResta, „Data for Democracy“ tyrėja ir viena iš pirmųjų žmonių, atpažinusių politiškai motyvuoto „Twitter“ reiškinį. dezinformacijos kampanijos.
Taigi, ko gero, didžiausia rizika, susijusi su šia nauja technologija, yra ne ta, kad ja piktnaudžiaus valstybės įsilaužėliai, politiniai diversantai ar anonimas, bet tai, kad ji dar labiau pakenks pačiai tiesai ir objektyvumui. Jei negalite atskirti netikros nuo tikrovės, tampa lengva suabejoti bet ko tikrumu. Tai jau yra būdas politikams išvengti atsakomybės.
Galbūt didžiausia rizika yra ta, kad technologija dar labiau pakenks tiesai ir objektyvumui.
Prezidentas Trumpas apvertė netikrų naujienų idėją aukštyn kojomis, pavartodamas šį terminą atakuoti bet kokius žiniasklaidos pranešimus, kuriuose kritikuojama jo administracija. Jis taip pat užsiminė, kad kaltinamas klipas, kuriame jis šmeižia moteris, išleistas per 2016 m. kampaniją, galėjo būti suklastotas skaitmeniniu būdu. Šį balandį Rusijos vyriausybė apkaltino Britaniją suklastojus vaizdo įrašus apie cheminę ataką Sirijoje, kad pateisintų siūlomus karinius veiksmus. Nė vienas kaltinimas nebuvo teisingas, tačiau sudėtingo padirbinėjimo galimybė vis labiau mažina tikros informacijos patikimumą. Mianmare ir Rusijoje naujais teisės aktais siekiama uždrausti netikras naujienas, tačiau abiem atvejais įstatymai gali būti tiesiog būdas sutramdyti vyriausybės kritiką.
Kai galingieji vis labiau suvokia dirbtinio intelekto klastojimą, bus lengva atmesti net aiškius vaizdo įrašo įrodymus, kad nusižengimas yra ne kas kita, kaip GAN sukurta skaitmeninė apgaulė.
Tiesa vis tiek bus ten. Bet ar sužinosi, kai pamatysi?
Will Knight yra vyresnysis redaktorius MIT technologijų apžvalga kuris apima dirbtinį intelektą.