„Deepfake Amazon“ darbuotojai sėja sumaištį „Twitter“. Tai ne problema.

„Amazon“ sandėlyje Bessemer mieste, Alabamos valstijoje, rodoma reklamjuostė, skatinanti darbuotojus balsuoti darbo rinkimuose. AP

Naujienos: Prieš reikšmingą balsavimą, dėl kurio JAV įsikūrusiame „Amazon“ sandėlyje gali būti sukurta pirmoji darbo sąjunga, pradėjo atsirasti naujų „Twitter“ paskyrų, kurios esą yra „Amazon“ darbuotojai. Profiliuose kaip profilio nuotraukos buvo naudojamos giliai padirbtos nuotraukos ir tviteryje buvo skelbiamos gana juokingos, pernelyg didelės „Amazon“ darbo praktikos apsaugos priemonės. Jie neatrodė tikri, bet vis tiek sukėlė sumaištį visuomenėje. Ar tikrai „Amazon“ buvo už jų? Ar tai buvo kažkokia baisi nauja prieš sąjungą nukreipta socialinės žiniasklaidos strategija? Atsakymas beveik neabejotinai yra ne, bet gilių klastotės naudojimas šiame kontekste rodo labiau susirūpinimą keliančią tendenciją.

Užpakalinis pasakojimas: Yra priežastis, dėl kurios šie nauji netikri profiliai atrodė pažįstami. „Amazon“ pradėjo veikti 2018 m labai tikra programa siekdama įtikinti visuomenę, kad ji puikiai elgiasi su savo sandėlio darbuotojais. Tuose sandėliuose buvo įrengtos kompiuterių stotys ir sukurta „Twitter“ paskyra nedidelei grupelei darbuotojų, žinomų kaip „Amazon FC Ambassadors“, kurie apmokamomis valandomis galėjo tviteryje rašyti apie tai, kaip myli savo darbą. Planas žlugo ir paskatino sukurti daugybę parodijų ambasadorių paskyros „Twitter“ tinkle. Netrukus „Amazon“ sumažino programą, o daugelis pradinių tikrų sąskaitų buvo sustabdytos arba uždarytos, sako Aricas Toleris, tiriamosios žurnalistikos svetainės „Bellingcat“ mokymo ir tyrimų vadovas.

Naujausias: Pirmadienį atsirado nauja ambasadorių paskyrų partija – ar bent jau taip atrodė. Tačiau kai žmonės pradėjo tirti, daugelis nurodė išeiti kad kai kurie turėjo profilio nuotraukas su aiškiais netikrų veidų ženklais, pavyzdžiui, iškreiptais auskarais ir neryškiu fonu. Štai tada viskas susipainiojo.

Žmonės greitai suprato, kad pati „Amazon“ yra už naujų „deepfake“ paskyrų kaip dalis prieš sąjungą nukreiptos socialinės žiniasklaidos kampanijos. Bendrovė vėliau papasakojo „New York Times“ žurnalistė Karen Wise kad to nebuvo. Toleris, kuris sekė pirmines sąskaitas, mano, kad „Amazon“ sako tiesą. Visos pradinės ambasadorių paskyros buvo užregistruotos „Amazon“ el. pašto adresais ir paskelbtos naudojant „Sprinklr“. Naujos „deepfake“ paskyros, kurios nuo to laiko buvo sustabdytos, buvo užsiregistravo per Gmail ir paskelbta per „Twitter“ žiniatinklio programą. Be to, tviterių turinys buvo aiškiai skirtas humoristiniam. Šios paskyros greičiausiai buvo tik daugiau parodijų, sukurtų „Amazon“ tyčiojimuisi.

Ar tai svarbu? Šiuo konkrečiu atveju tikriausiai ne. Žinoma, tai gana nekenksminga, sako Toleris. Tai Amazon. Jiems gerai. Tačiau tai atskleidžia labiau susirūpinimą keliančią problemą: gilios padirbtos paskyros gali būti koordinuotai įdiegtos socialinėje žiniasklaidoje ar kitur, siekiant daug grėsmingesnių tikslų. Kenkėjiškiausia to versija būtų valstybės veikėjai, perspėja Toleris.

Susijusi istorija

Dvejus metus trukusi kova, siekiant neleisti „Amazon“ parduoti veido atpažinimo policijai Šios savaitės „Amazon“, „Microsoft“ ir IBM žingsniai žymi svarbų etapą tyrėjams ir pilietinių teisių gynėjams ilgoje ir nuolatinėje kovoje dėl veido atpažinimo teisėsaugos institucijose.

Tiesą sakant, jau buvo keli didelio atgarsio sulaukę atvejai, kai suklastotos nuotraukos buvo naudojamos žalingoms dezinformacijos kampanijoms. 2019 m. gruodį „Facebook“ nustatė ir panaikino tinklą daugiau nei 900 puslapių, grupių ir paskyrų , įskaitant kai kurias su padirbtomis profilio nuotraukomis, susijusias su kraštutinių dešiniųjų leidiniu „Epoch Times“, kuris, kaip žinoma, užsiima dezinformacijos taktika. 2020 m. spalį prezidento Trumpo sluoksniuose išplatintas netikras žvalgybos dokumentas, tapęs daugelio su Hunteriu Bidenu susijusių sąmokslo teorijų pagrindu, taip pat buvo padirbto saugumo analitiko autorius. su padirbtu profilio vaizdu .

Toleris sako, kad netikri veidai tapo jo, kaip atvirojo kodo tyrėjo, įtartinos veiklos internete tendencija, ypač po to, kai buvo atidaryta ThisPersonDoesNotExist.com – svetainė, kurioje kiekvieną kartą atnaujinamas naujas dirbtinio intelekto sukurtas veidas. Jis sako, kad visada yra psichikos kontrolinis sąrašas, kurį peržvelgi, kai tik ką randi. Pirmas klausimas yra „Ar šis asmuo tikras, ar ne?“ Prieš penkerius metus tokio klausimo tikrai neturėjome.

Kokia tai grėsmė? Šiuo metu Toleris sako, kad gilių padirbtų veidų naudojimas neturėjo didelės įtakos jo darbui. Jam vis dar gana lengva atpažinti, kada profilio vaizdas yra netikras, kaip ir tada, kai nuotrauka yra standartinė. Sunkiausias scenarijus yra tada, kai vaizdas yra tikro asmens, paimto iš privačios socialinės žiniasklaidos paskyros, kuri nėra indeksuota vaizdų paieškos sistemose.

Augantis giliųjų klastotės žinomumas taip pat paskatino žmones atidžiau išnagrinėti žiniasklaidą, kurią jie mato, sako Toleris, ir tai rodo, kaip greitai žmonės susigaudė „Amazon“ paskyrų padirbinėjimus.

Tačiau Semas Gregory, žmogaus teisių ne pelno siekiančios „Witness“ programos direktorius, sako, kad tai neturėtų užliūliuoti klaidingo saugumo jausmo. Jis sako: „Deepfakes“ nuolat tobulėja: „Manau, kad žmonės per daug pasitiki, kad juos visada bus įmanoma aptikti.

Per didelis supratimas apie gilius klastojimus taip pat gali paskatinti žmones nustokite tikėti tikra žiniasklaida , o tai gali turėti tokių pat baisių pasekmių, pavyzdžiui, pakenkti žmogaus teisių pažeidimų dokumentacijai.

Ką turėtume daryti? Gregory ragina socialinės žiniasklaidos vartotojus vengti fiksuoti, ar vaizdas yra netikras, ar ne. Jis sako, kad dažnai tai tik mažytė galvosūkio dalis. Dovana nėra tai, kad jūs kažkaip išklausėte vaizdą. Tai yra tai, kad jūs žiūrite į paskyrą ir ji buvo sukurta prieš savaitę, arba tai yra žurnalistas, kuris teigia esąs žurnalistas, bet jie niekada neparašė nieko kito, ką galėtumėte rasti „Google“ paieškoje.

Ši tyrimo taktika yra daug patikimesnė giliųjų klastojimo technologijų pažangai. Patarimas tinka ir „Amazon“ atveju. Tik patikrinęs paskyrų el. laiškus ir informaciją apie tviterį, Toleris galiausiai nustatė, kad jie yra netikri, o ne tikrindamas profilio vaizdus.

paslėpti