211service.com
Baisūs žmonės išmoko išnaudoti internetą. Yasmin Green kovoja.
„Alphabet“ Jigsaw komanda sugrąžina internete radikalizuotus žmones nuo slenksčio, po vieną vaizdo įrašą. 2018 m. vasario 19 d
Lendonas Speersas
Neapykantos kurstymas, radikalėjimas internete, bombų kūrimo pamokos, valstybės remiamos netikros naujienos, interneto cenzūra – internetas yra baisi vieta.
Šiaip ar taip, dalis jo yra. Padėti, kad ši dalis būtų kuo mažesnė, yra Yasmin Green, „Jigsaw“, „Google“ pagrindinės įmonės „Alphabet“ padalinio, tyrimų ir plėtros direktoriaus darbas. Ji kovoja su teroristais ir troliais su tarptautine maždaug 60 specialistų grupe, įskaitant programinės įrangos inžinierius, mokslininkus ir produktų vadybininkus. Jie taip pat gali pasinaudoti didžiuliais „Google“ ištekliais. Tačiau Green ir jos kolegos neskiria viso savo laiko koduodami ir statydami; daugelis jų taip pat keliauja į karštus geopolitinius taškus tirti radikalizmo iš arti. Ji kalbėjo su MIT technologijų apžvalga apie kai kuriuos grupės metodus.
Ši istorija buvo mūsų 2018 m. kovo mėnesio numerio dalis
- Žr. likusią numerio dalį
- Prenumeruoti
Kas jus patraukė vaidmenyje Jigsaw?
Labai jaunas palikau Iraną, kuriame gimiau, ir užaugau JK. Prisimenu, kai grįžau, būdamas 19 metų, ir buvau nustebintas šalyje vyraujančios cenzūros lygio tiek neprisijungus, tiek internete. Tokie terminai kaip pasaulinis internetas paprastai skamba ironiškai žmonėms, kurie negyvena šalyse, kuriose informacija yra nemokama. Taigi mane patraukė darbas įmonėje, kuri stengiasi, kad informacija būtų prieinama visiems.
Lendonas Speersas
Jigsaw kovoja su internetinėmis grėsmėmis, tačiau komandos nariai taip pat lankosi konfliktų zonose vykdydami savo darbą. Koks šių kelionių tikslas?
Norime įsitikinti, kad kuriame technologiją, pagrįstą žmogaus patirties supratimu. Didžiąją mūsų metodikos dalį sudaro komandos narių siuntimas į lauką apklausti žmones, kurie susiduria su iššūkiais, kuriuos stengiamės įveikti, nesvarbu, ar tai būtų represijos, ar konfliktai. Viena iš mūsų išvykų buvo į Iraką, kur sėdėjome akis į akį su žmonėmis, kurie prisijungė prie teroristinės grupuotės, žinomos kaip ISIS, ir iš jos išėjo. Norėjome suprasti radikalėjimo procesą – tiek žmogiškuosius elementus, tiek ir technologijų vaidmenį. Girdėjome apie tai, kaip žmonės atrado ISIS, kaip buvo verbuojami žmonės ir kaip technologijos buvo naudingos jų kelionių logistikai [prisijungti prie grupės].
Kokia yra svarbiausia pamoka, kurią išmokome apie ISIS gebėjimą pasitelkti internetą įdarbinant?
ISIS beveik valdo daugybę žiniasklaidos priemonių – nuo radijo iki lankstinukų. Kalbant apie internetą, jie tikrai suprato mikrotaikymo galią. Jie kuria turinį daugeliu kalbų, įskaitant arabų ir anglų kalbas, tačiau jis tęsiasi ir tęsiasi, netgi pasiekia kinų ir hebrajų kalbas. Kalba, kuri man labai pribloškė pamačius vaizdo įrašą, buvo gestų kalba. Taigi jie kuria labai vietinę įdarbinimo medžiagą ir naudoja socialiniuose tinkluose pasiekiamus algoritmus, kad platintų šią medžiagą ir pasiektų žmones visuose pasaulio kampeliuose.
Akivaizdu, kad tam tikrą turinį, kurį teroristiniai tinklai skelbia internete, reikia panaikinti. Tačiau kaip elgtis su subtilesnėmis propagandos formomis?
Neabejotinai yra turinio kategorijų, kurias norite užtikrinti, kad jos neišvystų dienos šviesos, pvz., galvų nukirtimo ir bombų gamybos mokymo programos. Be to, yra daugybė kito turinio, kuris tikrai neskatina smurto, bet gali padėti nukreipti žmones jo link. Mūsų tyrimas buvo skirtas suprasti, kokios buvo įdarbinimo temos, paskatinusios žmones prisijungti prie ISIS. Pasirodo, jų apskritai netraukė galvų nukirtimas; Vietoj to, jie buvo įsitikinę, kad ši grupė yra religiniu požiūriu teisėta ir džihado priežastis buvo jų religinė pareiga. ISIS formavo pokalbį, užduodavo klausimus, į kuriuos [ji] turėjo, atrodo, įtikinamus atsakymus.
Nemanau, kad kas nors įsivaizdavo, kad internete sulauksime tokio bauginimo ir neapykantos kurstymo, kaip šiuo metu, ir turime labai pasistengti, kad įsitikintume, jog tai aplenksime.
Kaip bandėte kovoti su šiuo internetiniu radikalėjimu?
Vienas iš mūsų dalykų buvo tai, kad laikas yra labai svarbus. Kol potencialūs naujokai parduodami pagal ideologiją, jau per vėlu daryti jiems įtaką; turite prieiti prie jų, kai jie simpatiški, bet dar neparduoti. Taigi pasukome prie tikslinės reklamos internete. Sukūrėme vadinamąjį peradresavimo metodą, kuris naudoja tikslinius skelbimus, kad pasiektų žmones, kurie jaučiasi ISIS, bet dar nėra jai įsipareigoję, ir nukreipia juos į internetinius vaizdo įrašus iš nuosaikių dvasininkų, perbėgėlių ir pilietinių žurnalistų, kurie galėtų užkirsti kelią jų radikalėjimui.
Kokius rezultatus davė šis metodas?
Aštuonias savaites trukęs pilotas, skridęs arabų ir anglų kalbomis, pasiekė 320 000 žmonių. Jis turėjo išskirtinai didelį skelbimų paspaudimų rodiklį ir pritraukė pusę milijono minučių vaizdo įrašo žiūrėjimo laiko. Atsižvelgiant į tai, kad žmonės neskiria daugiau nei kelių sekundžių vaizdo įrašui, kuris jų nedomina, tai džiugina. Po mūsų bandomojo bandymo „YouTube“ integravo metodą į savo paieškos rezultatus. Atvirojo kodo metodiką taip pat atkartojo kiti, pvz., „Gen Next Foundation“, ir mes ir toliau palaikome kai kuriuos naujus diegimus.
Jigsaw taip pat bando kovoti su interneto cenzūra. Kiek ši problema bloga?
Jei pažvelgsite į Freedom House indeksą, jie sako, kad kiekvienais metais situacija blogėja. Tai tikrai atgrasu, nes tai prieštarauja tam, ko nori žmonės, kuriantys internetą. Situacija tokia nepastovi. Kai kyla pilietiniai neramumai, kaip neseniai buvo Irane, matote represinių vyriausybių dilemą, ar uždaryti internetą, ar ne, nes [cenzūra] pakursto gyventojus ir atkreipia visuomenės dėmesį bei pasipiktinimą. Bet jei valdžioje esantys jaučia grėsmę, jie cenzūruos.
Ką tokios įmonės kaip „Alphabet“ gali padaryti, kad tai kovotų?
Jaučiame tikrai didelę atsakomybę padėti žmonėms gauti informaciją, ypač konfliktų ir represijų metu. Vienas iš mūsų produktų skirtas apsaugoti nepriklausomą žiniasklaidą visame pasaulyje nuo cenzūros atakų, vadinamų paskirstytuoju paslaugų atsisakymu, arba DDoS, kuri išjungia svetaines iš interneto, užtvindydama jas srautu. Jis vadinamas projekto skydu. Idėja tai kilo iš mūsų lauko darbų. Mūsų komanda kalbėjosi su Kenijos rinkimų stebėjimo grupe, o jų svetainė neveikė svarbiausių rinkimų dieną. „Google“ turi didžiulę infrastruktūrą ir pasaulinio lygio DDoS mažinimo galimybes, kuriomis pasinaudoja „Project Shield“. Neturėdama svetainių prieglobos naudojant „Google“ ar „Jigsaw“, ji siūlo patikrinti srautą prieš jam pasiekiant serverį, kad galėtume pastebėti kenkėjišką srautą ir jį išfiltruoti.
Pereikime prie netikrų naujienų problemos. Kaip galime geriau atpažinti valstybės remiamas dezinformacijos pastangas?
Susijusi istorija
Susijusi istorija Yasmin Green, Alphabet's Jigsaw tyrimų ir plėtros vadovas, naudoja technologijas, tikėdamasis, kad pasaulis taps geresnis. Tai nelengva.Šių kampanijų tikslas – per netikrus asmenis ir naujienų svetaines skleisti idėjas ir pasakojimus, o vėliau šias sėklas apvaisinti masės, kad pokalbiai atrodytų kaip ekologiški. Tyrimo klausimas, kurį sau užduodame, yra tai, ar yra techninių koordinuotos, slaptos veiklos žymenų, palyginti su organiškesne veikla, kurią tikimės matyti internete. Jei yra, galėtume juos panaudoti automatiniam aptikimui.
Čia žiūrime į keletą dimensijų. Koordinuotos kampanijos paprastai trunka ilgiau nei natūralios kampanijos, o dalyvaujantys žmonės linkę laukti, kol gaus nurodymus iš savo šeimininkų, todėl kartais šiek tiek delsiama, kol staiga pradeda veikti kartu. Tie veikėjai taip pat linkę būti susieti į itin įtemptus tinklus ar grupes, kurios atrodo anomaliai. Taip pat yra semantinis aspektas. Šiose kampanijose dažnai naudojami panašūs žodžiai ir frazės, kurios gali būti centralizuoto valdymo signalas.
Interneto įmonės buvo kritikuojamos dėl to, kad nepakankamai imasi veiksmų, kad kovotų su neapykantą kurstančia kalba ir priekabiavimu internete. Ar tokia kritika teisinga?
Nemanau, kad kas nors įsivaizdavo, kad internete sulauksime tokio bauginimo ir neapykantos kurstymo, kaip šiuo metu, ir turime labai pasistengti, kad įsitikintume, jog tai aplenksime.
Ką Jigsaw daro, kad sužlugdytų internetinius trolius?
Turime komandą, kurios tikslas – išsiaiškinti, kaip natūralios kalbos apdorojimas ir mašininis mokymasis gali būti naudojami siekiant nustatyti toksiškumą internete ir padėti moderatoriams bei bendruomenėms su juo kovoti. Mūsų sukurtas modelis yra viešai prieinamas, pavadintas „Perspektyva“, ir jį galite rasti adresu www.perspectiveapi.com . Tai padeda įvertinti komentarus dėl jų toksiškumo lygio. Tyrimo grupė ieško būdų, kaip pasiekti kitą detalumo lygį, kad galėtume geriau nustatyti, kas vyksta ir kaip moderatoriai galėtų tai kontroliuoti.
Buvo daug nerimo, kad algoritmų šališkumas gali pakenkti tam tikroms visuomenės grupėms. Ar tai yra kažkas, į ką taip pat sutelkiate dėmesį?
Taip. Daug laiko praleidžiame galvodami apie tai, kaip užtikrinti, kad mūsų AI perspektyvoje nebūtų šališkumo, kuris galėtų pakenkti to projekto tikslams, ty sukurti įtraukius ir empatiškus pokalbius.
Didžiąją savo gyvenimo dalį praleidžiate susitelkę į tamsiąją interneto pusę. Ar vis dar optimistiškai vertinate jo potencialą?
Esu, bet turime ir toliau kurti naujoviškas technologijas, kurios padėtų spręsti šiuos tikrai sunkius iššūkius.