Memerai kuria gilias klastotes, o viskas darosi keista

Apačioje dešinėje: tai aš. Ponia Tech | NeurIPS (treniruočių rinkinys); Hao (mandagiai)

Grace Windheim apie gilias klastotes buvo girdėjusi anksčiau. Tačiau ji niekada nesvarstė, kaip tai padaryti. Tai buvo virusinis memas, naudojanti technologiją, kuri paskatino ją ištirti galimybę ir sužinoti, kad tai buvo labai paprasta ir visiškai nemokama.

Per dieną ji sukūrė žingsnis po žingsnio „YouTube“ mokymo programa vesti kitus per procesą. Padaryti vieną iš šių gilių klastočių ir perdengti garso įrašą nėra taip sudėtinga, kaip jūs manote, sako ji vaizdo įraše, paskelbtame rugpjūčio 4 d. Nuo to laiko jis buvo peržiūrėtas daugiau nei 360 000 kartų.

Windheimas priklauso naujai internetinių kūrėjų grupei, kuri žaidžia su giliomis klastotėmis, kai technologija tampa vis labiau prieinama ir įsiskverbia į interneto kultūrą. Reiškinys nestebina; Žiniasklaidos manipuliavimo įrankiai dažnai įgavo trauką vaidinti ir parodijuoti . Tačiau tai taip pat kelia naujų rūpesčių dėl galimo piktnaudžiavimo juo.

Gilios klastotės jau buvo naudojamos priekabiauti prie moterų, nesant susitarimo pakeičiant jų veidus į pornografinius vaizdo įrašus. Mokslininkai taip pat nerimauja dėl jų gebėjimo sutrikdyti rinkimus. Nors memams sukurti gilieji klastotės vis dar yra akivaizdžiai netikros ir palyginti nekenksmingos, jos gali išlikti neilgai.

Windheimas sako, kad yra ta riba tarp giliųjų klastotės naudojimo pramogoms ir memams ir jų panaudojimo kenkimui. Šioje mokymo programoje sakau: „Štai kaip jūs sukuriate šį konkretų „deepfake“. Tačiau baisiausia yra tai, kad scenarijus gali būti pritaikytas bet kokiam „deepfake“ tipui.

Aš buvau kvailys

Vindheimas, neseniai baigęs koledžą, dirba turinio kūrėju San Franciske įsikūrusiame startuolyje „Kapwing“. Įmonė, kuri savo veiklą pradėjo kaip memų kūrėja, siūlo nemokamą naršyklės vaizdo redagavimo programinės įrangos įrankių rinkinį. Vykdydama savo darbą, Windheim valdo „YouTube“ kanalą ir kuria turinio rinkodaros vaizdo įrašus, kad parodytų produktų galimybes.

Rugpjūčio pradžioje „Google Trends“ ji aptiko ypač populiarią paieškos terminą. Trys iš penkių populiariausių užklausų buvo apie Baka Mitai giliai padirbtą memą. Ji sako, kad beveik niekada nematau, kad užklausa iškyla taip dažnai.

Memas, kaip paaiškėjo, buvo pagrįstas vaizdo įrašas apie YouTuber lūpų sinchronizavimą į japonišką vaizdo žaidimo dainą Baka Mitai (vertimas: I’ve Been a Fool). Įvairūs interneto naudotojai naudojo vaizdo įrašą, kad sukurtų niūrius visų žmonių klastotes Barakas Obama į Thanos dainuojant dainą. Tačiau, nepaisant populiarumo, Windheimas pastebėjo, kad apie tai, kaip tai padaryti, buvo parašyta mažai. Ji pamatė galimybę.

Ypatingas gilaus klastojimo algoritmas, kurį naudojo žmonės, kilęs iš a 2019 metų mokslinis darbas pristatytas didžiausioje kasmetinėje AI tyrimų konferencijoje NeurIPS. Skirtingai nuo kitų sudėtingesnių algoritmų, jis leidžia vartotojui nufotografuoti bet kokį asmens veido vaizdo įrašą ir panaudoti jį kieno nors kito veido nuotraukai animuoti naudojant tik kelias kodo eilutes.

Windheimas rado atvirojo kodo algoritmą „YouTube“ mokymo programoje ir perkėlė jį į „Google Colab“ bloknotą – nemokamą kodo paleidimo paslaugą debesyje. Po kelių bandymų, padedamų įgūdžių, kuriuos ji įgijo retkarčiais vykstančioje kodavimo pamokoje koledže, ji gavo scenarijų, kad išspjautų netikrą vaizdo įrašą. Tada ji sinchronizavo dainą su vaizdo įrašu su Kapwing įrankiais, sukurdama naują memo versiją.

Nuo tada, kai ji paskelbė jos pamoka „Kapwing“ „YouTube“ kanale daugelis kitų „YouTube“ naudotojų taip pat parengė mokymo programas naudodami tą patį kopijavimo ir įklijavimo algoritmą. Skirtumas: daugelis jų moko savo auditoriją, kaip tai padaryti bet koks savotiškas deepfake memas. Vienas netgi moko žmones kaip juos padaryti mobiliajame telefone .

Šie memai dabar rodomi visur socialinėje žiniasklaidoje: „Twitter“, „Instagram“ ir ypač „TikTok“. Platformos trumpi vaizdo įrašai, kuriuose dažnai skamba žaisminga choreografija iki patrauklios muzikos, yra ypač palankūs padirbti iki užburiančio efekto. Programėlėje esanti žyma #deepfake jau sulaukė daugiau nei 120 milijonų peržiūrų.

@lemonjezus

@helltaker03

Vaizdo įrašuose, sukurtuose naudojant šį algoritmą, veiduose pastebimas netikėtumas, todėl jo rankų darbą lengva atpažinti; tai yra „deepfakes“ humoro dalis. Šie trūkumai ir siurrealistinė kokybė iš memų – neleis jiems susipainioti su tikrove. Šiuo metu itin tikroviškesnius giluminius padirbinius sukurti yra daug sudėtingiau ir skaičiuojant brangiau.

Tačiau technologijų tobulėjimo tempu greičiausiai bus už kampo lengvai pagaminamos gilios klastotės, kurios beveik nesiskiria nuo tikrovės. Kai kurios bendrovės, pavyzdžiui, Kinijos technologijų milžinė Tencent, „WeChat“ savininkas, viešai paskelbė apie savo ketinimus investuoti daugiau išteklių į pažangą. moderniausius komercinius pritaikymus .

Deepfake nėra savaime blogi. Šią technologiją jau naudojo menininkai, pedagogai ir kiti kaip galingą naują kūrybinės raiškos įrankį. Pavyzdžiui, vasario mėn. žurnalas „Time“ naudojo gilius klastojimus, kad atkurtų Martino Lutherio Kingo jaunesniojo patirtį. sakydamas savo „Aš turiu svajonę“ kalbą virtualioje realybėje. Galiausiai reguliavimo institucijos turi apibrėžti, kas yra tinkamas naudojimas ir kas gali pakenkti.

Kol kas Windheimas pasikliauja savo sprendimu. Prieš paskelbdama savo vaizdo įrašą, ji perskaitė gilių klastočių pasekmes ir kalbėjosi su kolegomis. Ji sako, kad mes niekada neketiname savo produktais padėti vartotojams skleisti dezinformaciją, todėl tiesiog norėjome pasitikrinti save.

Galų gale jie nusprendė laikytis kai kurių pagrindinių taisyklių: savo mokymo programas jie sutelks į konkrečių memų kūrimą, o ne į gilių padirbinių kūrimą už šio konteksto ribų. Ji sako, kad tol, kol tai pramoga ir memų kultūra, esame aiškioje zonoje.

paslėpti