Deepfake botas naudojamas nepilnametėms merginoms nurengti

Moters siluetas

Savka Jankovic / EyeEm





Atnaujinimas 10/28: Nuo šio straipsnio paskelbimo „Deepfake“ robotas „Telegram“ buvo užblokuotas „iOS“, nes pažeidė „App Store“ gaires, tyrėjų teigimu . Taip pat buvo pašalintas pagrindinis „Telegram“ kanalas, kuriame buvo robotas, ir susijęs kanalas, skirtas dalytis jo kūriniais.

2019 metų birželį vice atskleidė egzistavimą nerimą keliančios programos, kuri naudojo AI moterims nurengti. Pavadinta DeepNude, ji leido vartotojams įkelti apsirengusios moters nuotrauką už 50 USD ir susigrąžinti jos, atrodo, nuogos nuotrauką. Tiesą sakant, programinė įranga naudojo generatyvius varžovų tinklus, algoritmą, esantį už gilių klastočių, kad pakeistų moterų drabužius į labai tikroviškus nuogus kūnus. Kuo auka menkiau apsirengusi, tuo geriau. Vyrams tai nepasiteisino.

Per 24 valandas „Vice“ straipsnis sukėlė tokį atsaką, kad programos kūrėjai greitai nuėmė . „DeepNude“ „Twitter“ paskyra paskelbė, kad nebus išleistos jokios kitos versijos ir niekas kitas neturės prieigos prie šios technologijos.



Bet a naujas tyrimas „Sensity AI“ (anksčiau – „Deeptrace Labs“), kibernetinio saugumo įmonė, užsiimanti piktnaudžiavimo manipuliuojama žiniasklaida nustatymu, dabar rado labai panašią technologiją, kurią naudoja viešai prieinamas robotas pranešimų programoje „Telegram“. Šį kartą jis turi dar paprastesnę vartotojo sąsają: bet kas gali nusiųsti botui nuotrauką per „Telegram“ mobiliąją ar žiniatinklio programėlę ir per kelias minutes gauti nuogą atgal. Paslauga taip pat yra visiškai nemokama, nors vartotojai gali sumokėti 100 rublių (apie 1,50 USD) bazę už tokias privilegijas kaip vandens ženklo pašalinimas iš nuimtų nuotraukų arba apdorojimo eilės praleidimas.

2020 m. liepos mėn. robotas jau buvo naudojamas mažiausiai 100 000 moterų, kurių dauguma tikriausiai neturėjo jokio supratimo, nutaikymui ir atplėšimui. Paprastai tai yra jaunos merginos, sako Giorgio Patrini, „Sensity“ generalinis direktorius ir vyriausiasis mokslininkas, kuris buvo ataskaitos bendraautoris. Deja, kartais taip pat akivaizdu, kad kai kurie iš šių žmonių yra nepilnamečiai.

Priekabiavimo suvaidinimas

Deepfake robotas, paleistas 2019 m. liepos 11 d., yra prijungtas prie septynių „Telegram“ kanalų, kuriuose iš viso yra daugiau nei 100 000 narių. (Šis skaičius neatsižvelgia į pasikartojančią narystę visuose kanaluose, tačiau vien pagrindinėje grupėje yra daugiau nei 45 000 unikalių narių.)



Centrinis kanalas skirtas pačiam robotui priglobti, o kiti naudojami tokioms funkcijoms kaip techninė pagalba ir vaizdo dalijimasis. Vaizdų dalijimosi kanaluose yra sąsajų, kurias žmonės gali naudoti skelbdami ir vertindami savo nuogus kūrinius. Kuo labiau nuotrauka patiks, tuo daugiau jos kūrėjas bus apdovanotas žetonais, kad galėtų pasiekti aukščiausios kokybės roboto funkcijas. Patrini sako, kad kūrėjas gaus paskatą, tarsi jis žaistų žaidimą.

Bendruomenė, kurią lengva rasti per paiešką ir socialinę žiniasklaidą, per pastaruosius metus nuolat augo. 7200 vartotojų apklausa parodė, kad maždaug 70% jų yra iš Rusijos ar kitų rusakalbių šalių. Tačiau atrodo, kad aukos yra iš įvairių šalių, įskaitant Argentiną, Italiją, Rusiją ir JAV. Dauguma jų yra privatūs asmenys, kuriuos roboto naudotojai teigia pažįstantys realiame gyvenime arba kuriuos rado „Instagram“. Tyrėjai sugebėjo atpažinti tik nedidelę saujelę moterų ir bandė su jomis susisiekti, kad suprastų jų patirtį. Nė viena iš moterų neatsakė, sako Patrini.


Tyrėjai taip pat susisiekė su Telegram ir atitinkamomis teisėsaugos agentūromis, įskaitant FTB. Telegram neatsakė nei į jų pastabą, nei į MIT Technology Review tolesnį prašymą pakomentuoti. Patrini sako, kad jie taip pat nepastebėjo jokio apčiuopiamo poveikio šioms bendruomenėms nuo tada, kai susisiekė su valdžios institucijomis.



Gilus keršto pornografija

Prievartautojai jau kurį laiką naudojo pornografinius vaizdus, ​​kad priekabiautų prie moterų. 2019 m. Studija Amerikos psichologų asociacija nustatė, kad viena iš 12 moterų tam tikru savo gyvenimo momentu tampa keršto pornografijos auka. Studija Australijos vyriausybė, pažvelgusi į Australiją, JK ir Naująją Zelandiją, nustatė, kad šis santykis yra net vienas iš trijų. Gilus keršto pornografija suteikia priekabiavimui visiškai naują dimensiją, nes aukos nesuvokia, kad tokie vaizdai egzistuoja.

Taip pat yra daug atvejų, kai klastotės buvo naudojamos įžymybėms ir kitiems aukšto lygio asmenims nukreipti. Ši technologija pirmą kartą išpopuliarėjo giliuose interneto užkampiuose kaip būdas pakeisti įžymybių veidus į pornografinius vaizdo įrašus, be to, ji buvo naudojama kaip priekabiavimo kampanijų dalis, siekiant nutildyti. žurnalistės moterys . Patrini sako, kad jis taip pat kalbėjosi su influenceriais ir „YouTube“ naudotojais, kuriems buvo siunčiami padirbti pornografiniai jų vaizdai tiesiai jų rėmėjams, o tai jiems kainavo didžiulę emocinę ir finansinę įtampą.

Patrini įtaria, kad šios tikslinės atakos gali pablogėti. Jis ir jo kolegos tyrinėtojai jau matė, kaip technologija tobulėja ir plinta. Pavyzdžiui, Rusijos socialinės žiniasklaidos platformoje VK jie atrado dar vieną daugiau nei 380 puslapių ekosistemą, skirtą atviroms giliųjų klastotėms kurti ir dalytis. (Po šio straipsnio paskelbimo VK atstovas spaudai išsiuntė MIT Technology Review pareiškimą: „VK netoleruoja tokio turinio ar nuorodų platformoje ir blokuoja jas platinančias bendruomenes. Atliksime papildomą patikrinimą ir blokuosime netinkamą turinį ir bendruomenės.“) Tyrėjai taip pat nustatė, kad nusirengimo algoritmas pradedamas taikyti vaizdo įrašams, pavyzdžiui, filmuotai medžiagai, kurioje bikinių modeliai vaikšto nusileidimo taku. Šiuo metu algoritmas turi būti taikomas kadras po kadro – šiuo metu jis labai elementarus, sako Patrini. Bet aš tikiu, kad žmonės jį ištobulins ir taip pat sukurs licencijos paslaugą.



Deja, vis dar yra nedaug būdų, kaip sustabdyti tokią veiklą, tačiau vis didėja supratimas apie problemas. Tokios įmonės kaip „Facebook“ ir „Google“ bei mokslininkai, gaminantys giliųjų klastotės kūrimo įrankius, pradėjo rimčiau investuoti į atsakomąsias priemones, tokias kaip automatinis giliųjų klastotės aptikimas. Praėjusiais metais taip pat pristatė JAV Kongresas nauja sąskaita tai sukurtų mechanizmą, kad aukos galėtų kreiptis į teismą dėl žalos reputacijai.

Tuo tarpu Patrini sako, kad „Sensity“ ir toliau stebės ir praneš apie tokius kenkėjiškus giliuosius klastojimus, taip pat sieks daugiau suprasti jas kuriančių asmenų motyvus ir poveikį aukų gyvenimui. „Iš tiesų, duomenys, kuriais dalijamės šioje ataskaitoje, yra tik ledkalnio viršūnė“, – sako jis.

Atnaujinimas: prie straipsnio pridėtas oficialus Rusijos socialinės žiniasklaidos platformos VK pareiškimas.

paslėpti