Buvęs „Facebook“ saugumo viršininkas: prašyti „Big Tech“ policijos neapykantos kurstymui yra pavojingas kelias

Joshas Edelsonas | Stanfordo universiteto sutikimu

Dar prieš kelias savaites Alexas Stamosas buvo „Facebook“ vyriausiasis saugumo pareigūnas. Jis vadovavo Rusijos politinės dezinformacijos medžioklei platformoje po 2016 m. JAV rinkimų. Dabar, dirbdamas Stanfordo universitete, jis neseniai paskelbė apie Stanfordo interneto observatorijos įkūrimą – projektą, skirtą kovoti su neapykantą kurstančia kalba, propaganda ir manipuliacijomis, sutelkiant akademinius tyrėjus, socialinius mokslininkus, politikos formuotojus ir pačius technologijų milžinus.

Kaip ir daugelis žmonių, Stamosas mano, kad tokios technologijų platformos kaip „Facebook“ ir „Google“ turi per daug galios. Tačiau jis nesutinka su raginimais juos nutraukti. Ir jis teigia, kad tie patys žmonės, kurie sako, kad „Facebook“ ir „Google“ yra per galingi, jiems duoda daugiau galią, reikalaudami, kad jie labiau kontroliuotų neapykantą kurstančią kalbą ir propagandą.

Tai pavojingas kelias, perspėja jis. Jei demokratinės šalys privers technologijų įmones riboti žodžio laisvę, taip pat ir autokratinės. Netrukus ši technologija leis mašinos greičiu, realiuoju laiku moderuoti viską, ką sakome internete. Bandydami suvaldyti „Big Tech“, rizikuojame sukurti „Big Brother“. Taigi koks sprendimas? Kalbėjausi su Stamosu jo Stanfordo biure, kad išsiaiškinčiau. (Interviu buvo sutrumpintas ir redaguotas siekiant aiškumo.)

Neseniai sakei kad jau per vėlu gelbėti 2018 m. vidurio laikotarpius nuo užsienio kišimosi. Kas kaltas, kad leido tai įvykti, atsižvelgiant į viską, ko išmokome 2016 m.?

2016 m. įvyko trys dalykai. Buvo dezinformacijos ir propagandos kampanija, kurią vykdė [Rusijos] interneto tyrimų agentūra ir susijusios grupės. Vyko nutekinimo kampanija, kai GRU [Rusijos karinė žvalgyba] įsiveržė į DNC [Demokratinio nacionalinio komiteto] elektroninį paštą ir paskleidė istorijas [žiniasklaidoje]. Ir buvo tiriamasis įsiskverbimas į 21 valstijos rinkimų sistemas.

Dėl pirmosios problemos buvo atlikta daugiausiai darbo, nes ji visiškai patenka į platformų atsakomybę. Jie apibrėžė, kas yra politinė reklama, o kas yra problema, sukūrė reklamos skaidrumą, apibrėžė, kas yra netinkamas koordinavimas, ir pradėjo vykdyti šias taisykles.

„Rusai sugebėjo nusiųsti savo B komandą įsilaužti į DNC. Nesu tikras, ar žmonės yra pasirengę A komandai.

GRU įsilaužimo ir nutekėjimo kampanijoje atsitiko labai mažai. DNC buvo patobulinta apsauga. Tikiuosi, kad dauguma kampanijų yra atsargesnės. Tačiau neatrodo, kad kampanijų ir kandidatų saugumas būtų padidintas. Rusai sugebėjo nusiųsti savo B komandą įsilaužti į DNC. Nesu tikras, ar žmonės pasiruošę A komandai.

Trečią mes beveik nieko nepadarėme. Jūs vis dar turite 10 000 rinkimų institucijų [JAV], dalyvaujančių rinkimuose. Turime daug valstybių, kuriose nėra popierinės atsarginės kopijos [balsavimo biuleteniams]. Yra per daug institucijų, atsakingų už savo pačių saugumą, kad galėtume užtikrinti [rinkimus], federalinei vyriausybei nesuteikus didžiulių išteklių. Štai čia, manau, turime didžiausią pažeidžiamumą.

Taigi ar dezinformacijos/propagandos problema dažniausiai išspręsta?

Laisvoje visuomenėje šios problemos niekada nepašalinsi. Manau, kad svarbiausias dalykas [JAV] yra reklamos skaidrumas. Be užsienio kišimosi ar be jo, partijos, kampanijos, PAC [politinių veiksmų komitetai] čia, JAV, skirsto rinkėjus į mažus kibirėlius, ir tai yra blogai. Skaidrumas yra gera pradžia.

Kitas žingsnis, kurio mums reikia, yra federaliniai teisės aktai, apribojantys skelbimų taikymą. Interneto reklamos ekosistemoje yra tūkstančiai įmonių. „Facebook“, „Google“ ir „Twitter“ yra vieninteliai, kurie ką nors padarė, nes sulaukė daugiausiai dėmesio spaudoje ir didžiausią spaudimą iš politikų. Taigi be teisės aktų visus užpuolikus tiesiog įstumsime į ilgą reklamos uodegą įmonėms, kurios neturi specialių komandų, ieškančių Rusijos dezinformacijos grupių.

„Facebook“ buvo kritikuojamas dėl Rusijos politinio kišimosi tiek JAV, tiek kitose šalyse, genocidas Mianmare , ir daug kitų dalykų. Ar manote, kad „Facebook“ visiškai suvokė savo įtakos mastą ir atsakomybę?

Manau, kad įmonė tikrai supranta jo poveikį. Sunkiausia dalis yra tai išspręsti. Devyniasdešimt procentų „Facebook“ vartotojų gyvena ne JAV. Gerokai daugiau nei pusė gyvena nelaisvose šalyse arba demokratinėse šalyse be kalbos apsaugos. Viena iš problemų yra šiose šalyse rasti sprendimai, kurie ne iš karto patenka į labai tamsią vietą [ty cenzūra].

„Manau, kad [Facebook] tikrai supranta jo poveikį. Sunkioji dalis yra tai išspręsti.

Kitas dalykas – išsiaiškinti, kokių problemų reikėtų skirti inžineriniams ištekliams. Kad ir kokia didelė būtų įmonė, yra tik tam tikras skaičius problemų, kurias [galite išspręsti]. Viena iš problemų, su kuriomis susidūrė įmonės, yra ta, kad jos veikia gaisro gesinimo režimu, kai peršoka iš avarinės padėties į avarinę situaciją.

Taigi, įdarbinus personalą, situacija gerėja, tačiau mums taip pat reikia labiau informuotos išorės diskusijos apie dalykus, į kuriuos norime, kad įmonės sutelktų dėmesį – kokias problemas būtinai reikia išspręsti, o kurias ne. Jūs paminėjote daugybę problemų, kurios iš tikrųjų yra labai skirtingos, tačiau žmonės jas visas sulieja.

Ar manote, kad technologijų įmonės turi per daug galios? Ar „Facebook“ turėtų būti priverstas atsisakyti, pavyzdžiui, „Instagram“ ir „WhatsApp“?

Jei antimonopoliniai žmonės mano, kad tikslinga priverstinai atsisakyti atskirų platformų, tai priklauso nuo jų. Nemanau, kad tai nei išsprendžia šias problemas, nei pablogina jas. Dar blogiau būtų konkrečių produktų suskaidymas. Dešimt „WhatsApp“ yra blogesnė už vieną „WhatsApp“, o dešimt „Facebook“ yra blogesnė už vieną „Facebook“, nes jūs prarandate masto ekonomiją [ir] galimybę turėti gerai sukomplektuotas komandas, kurios yra tokio piktnaudžiavimo [neapykantą kurstančią kalbą, propagandą ir kt. .].

Tiesa ta, kad į tai reagavo didžiosios įmonės. Visi ignoruoja mažas įmones, nes tai nepatenka į geras antraštes. „Facebook“ padarė daugiau nei dauguma kitų įmonių.

Kaip reguliuoti pasaulį, kuriame technologijos tobulėja taip greitai, o reguliavimas juda taip lėtai? Kaip visuomenė turėtų nustatyti protingas technologijų įmonių veiklos ribas?

Tačiau šiuo metu visuomenė neprašo savo veiklos apribojimų. Tai prašo technologijų įmonės daugiau . Ir aš manau, kad tai pavojingas kelias. Kalbant apie visas jūsų paminėtas problemas – Rusijos dezinformaciją, Mianmarą – šioms įmonėms sakote: Norime, kad turėtumėte daugiau galios kontroliuoti, ką kiti žmonės sako ir daro.

„Po penkerių ar dešimties metų viskas, ką sakome internete, gali būti... mašinos greičiu, realiuoju laiku moderuojama.

Tai labai pavojinga, ypač didėjant mašininiam mokymuisi. Po penkerių ar dešimties metų gali atsirasti mašininio mokymosi sistemų, kurios suprastų ir žmonių kalbas. Galėtume viską, ką sakome internete, prižiūrėti mašinos greičiu, realiuoju laiku. Taigi galios, kurias šiuo metu suteikiame technologijų įmonėms, yra tokios, kokias tos mašinos turės po penkerių metų.

Kokią pagrindinę problemą bando išspręsti Stanfordo interneto observatorija?

Nėra konkrečios akademinės krypties, kurioje būtų tiriamas netinkamas technologijų naudojimas, išskyrus labai techninius trūkumus. Kompiuterių mokslų katedros atlieka naujų tipų išnaudojimų, naujų klaidų tipų, ezoterinių kriptografinių sprendimų tyrimus, tačiau jūs negalite gauti daktaro laipsnio, tiriančio patyčias ir priekabiavimą bei techninius jų sprendimus. Gali būti, kad politologai tiria socialinių tinklų poveikį demokratijai, o psichologijos skyriaus žmonės tiria Instagram naudojimo poveikį paaugliams, linkusiems į savižudybę, tačiau jiems trūksta techninių įgūdžių ir infrastruktūros.

Taigi Stanfordo interneto observatorija bus nuolatinė programa, kurioje dirbs duomenų mokslininkai, programinės įrangos inžinieriai, tyrėjai ir analitikai, kurie supranta, kaip bendrauti su technologijų platformomis ir kaip atlikti duomenų analizę labai dideliu mastu. Tada ši grupė gali teikti paslaugas akademinėms grupėms ir atlikti savo tyrimus. Tada galime katalizuoti darbus, kurių tikriausiai nebūtų, nes jie nepatenka į vieną akademinę sferą.

Su kokiais sprendimais dirbate?

Jei pažvelgsite į 2016 m., tai, ką matote, yra žvalgybos nesėkmės tarp JAV vyriausybės [ir] sąjungininkų vyriausybių bei tarp tų vyriausybių ir technologijų platformų. Turime pagalvoti apie šių skirtingų grupių atsakomybę ir tai, kaip suderinti faktą, kad technologijų įmonės veikia beveik vyriausybiniu būdu. Kokios kontrolės priemonės turėtų būti taikomos ir kada prasideda bei baigiasi jų atsakomybė? Mes ruošiame rekomendacijas Kongresui kitiems metams.

Taip pat kuriame galimybę stebėti dezinformacijos naudojimą įvairiuose rinkimuose. Mūsų tikslas – kad kitais metais vyktų Indijos ir Europos Parlamento rinkimai.

Demokratai neišvengiamai bus imlesni tokiems sprendimams nei respublikonai. Kaip padaryti, kad tai būtų nepartinė?

Mintis, kad kišimasis į rinkimus padeda tik respublikonams, yra beprotiška. Yra rusiškas žaidimų knyga. Mūsų sistemos trūkumai buvo parodyti. Mes pranešėme savo priešams, kad jie gali kištis į mūsų rinkimus, ir mes nieko nedarysime, kad tai tikrai nubaustume.

„Mano žinutė respublikonams yra tokia: „Išspręskime šią problemą, kol jūs, vaikinai, turėsi savo 2016 m.“.

Taigi labai tikiuosi, kad į būsimus rinkimus įsitrauks ir kiti priešininkai. Kinija, Iranas, Šiaurės Korėja – mintis, kad visos šios šalys rems respublikonus, yra juokinga. Taigi mano žinutė respublikonams yra tokia: išspręskime šią problemą, kol jūs, vaikinai, turėsite savo 2016 m.

Šią diskusiją reikia praeiti pro Trumpą. Respublikonams sustingsta smegenys, jei jūs suprantate, kad Trumpas nebuvo išrinktas sąžiningai. Taigi mes tiesiog turime kalbėti apie pažeidžiamumą ir galimą poveikį, kurį tai turės 2020 m. Kai aš asmeniškai kalbuosi su respublikonais, jie tai yra daug imlesni.

Su tuo susijusi problema yra politikų technologinio raštingumo trūkumas. Kaip tai sprendžiate?

Šie žmonės paprastai turi gana protingus darbuotojus, tačiau dauguma darbuotojų nedirbo technologijų srityje. Taigi turime paskatinti žmones, kurie dirbo technologijų srityje, eiti dirbti į DC. Yra tokių pavyzdžių Chrisas Soghoianas [technologijų aktyvistas, dabar dirbantis senatoriui Ronui Wydenui], kur technikos specialistai lanko Kongresą ir daro didžiulį poveikį individualiai.

Ir tai vyksta abiem kryptimis. Turime mokyti kompiuterių mokslininkus apie istoriją ir etiką, o laisvųjų menų specialybes turime mokyti technologijų pagrindų, kad jie galėtų daryti įtaką. Gebėjimas kalbėtis su vėplais taip, kaip jie gerbia, yra nepaprastai galingas, ir to šiuo metu Kongrese trūksta.

paslėpti