Kodėl socialinė žiniasklaida negali tvarkyti turinio šešėlyje?

Pexelis

2016 m. galėjau suskaičiuoti, kokias intervencijas technologijų įmonės norėjo panaudoti, kad iš savo platformų išlaisvintų dezinformaciją, neapykantą kurstančią kalbą ir priekabiavimą. Bėgant metams neapdoroti mechanizmai, tokie kaip turinio blokavimas ir paskyrų uždraudimas, virto sudėtingesniu įrankių rinkiniu, įskaitant temų laikymą karantine, įrašų pašalinimą iš paieškos, rekomendacijų draudimą ir pirmenybės sumažinimą.

Ir vis dėlto, net ir turint daugiau galimybių, klaidinga informacija išlieka rimta problema. Rinkimų dieną buvo daug nušviesta apie klaidingą informaciją – mano kolegė Emily Drefyuss, pavyzdžiui, nustatė, kad kai „Twitter“ bandė susidoroti su turiniu naudodama grotažymę #BidenCrimeFamily, taikydamas taktiką, įskaitant išindeksavimą blokuojant paieškos rezultatus, vartotojai, įskaitant Donaldą. Trumpas pritaikyta naudojant tos pačios žymos variantus . Tačiau mes vis dar daug nežinome apie tai, kaip „Twitter“ nusprendė tai padaryti pirmiausia arba kaip jis sveria ir mokosi iš vartotojų reakcijos į saikingumą.

Kokių veiksmų ėmėsi šios įmonės? Kaip veikia jų moderavimo komandos? Koks yra sprendimų priėmimo procesas?

Kai socialinės žiniasklaidos įmonės sustabdė paskyras ir pažymėjo bei ištrynė įrašus, daugelis tyrėjų, pilietinės visuomenės organizacijų ir žurnalistų stengėsi suprasti savo sprendimus. Tų sprendimų ir procesų skaidrumo trūkumas reiškia, kad daugeliui rinkimų rezultatai šiais metais yra pažymėti žvaigždute, kaip ir 2016 m.

Kokių veiksmų ėmėsi šios įmonės? Kaip veikia jų moderavimo komandos? Koks yra sprendimų priėmimo procesas? Per pastaruosius kelerius metus platformų įmonės subūrė dideles darbo grupes, skirtas pašalinti dezinformaciją rinkimuose ir ženklinti ankstyvus pergalės pareiškimus. Sara Roberts UCLA profesorius rašė apie nematomą platformų turinio moderatorių darbą kaip šešėlinę industriją, rangovų labirintą ir sudėtingas taisykles, apie kurias visuomenė mažai žino. Kodėl mes nežinome daugiau?

Porinkiminiame rūke socialinė žiniasklaida tapo žemo lygio karo su mūsų pažinimo saugumu reljefu, kuriame daugėja dezinformacijos kampanijų ir sąmokslo teorijų. Kai transliacijų naujienų verslas atliko informacijos vartų sargo vaidmenį, taip ir buvo apkrautas viešojo intereso įsipareigojimais pvz., dalijimasis laiku teikiama, vietine ir susijusia informacija. Socialinės žiniasklaidos įmonės paveldėjo panašią padėtį visuomenėje, tačiau jos neprisiėmė tų pačių pareigų. Ši situacija privertė pareikšti pretenzijas dėl šališkumo ir cenzūros, kaip jie moderuoja su rinkimais susijusį turinį.

Išlaidų padengimas

Spalio mėnesį I prisijungė prie ekspertų komisijos apie dezinformaciją, sąmokslą ir infodemiją Atstovų rūmų nuolatiniam žvalgybos komitetui. Prie manęs prisidėjo Cindy Otis, buvusi CŽV analitikė; Nina Jankowicz, Wilsono centro dezinformacijos bendradarbė; ir Melanie Smith, Graphika analizės vadovė.

Kai ruošiau liudijimą, „Facebook“ sunkiai susidorojo su „QAnon“ – militarizuotu socialiniu judėjimu, kurį stebi pavojingų organizacijų skyrius ir smerkė namas dviejų partijų įstatymo projekte . Mano komanda buvo metų metus tyrinėjantis QAnon . Ši sąmokslo teorija tapo mėgstama tema tarp dezinformacijos tyrinėtojų, nes ji išliko plečiama, pritaikoma ir atspari platformų įmonių pastangoms ją karantinuoti ir pašalinti.

QAnon taip pat tapo Kongreso problema, nes tai nebėra apie žmones, dalyvaujančius a keistas internetinis žaidimas: jis tarsi viesulas palietė politikų gyvenimus, kurie dabar yra priekabiavimo kampanijų taikiniai, kurie peržengia karščiavimas sapnuoja sąmokslininkus į smurtą . Be to, tai įvyko greitai ir naujais būdais. Sąmokslo teorijos paprastai užtrunka kelerius metus, kad išplistų visuomenėje, reklamuojant pagrindinius politinius, žiniasklaidos ir religinius veikėjus. Socialinė žiniasklaida paspartino šį procesą per nuolat augančias turinio pateikimo formas. QAnon sekėjai komentuoja ne tik naujausias naujienas; jie tai daro pagal savo pageidavimus .

Savo parodymus sutelkiau į daugybę neįvardytų žalos, kurią sukelia socialinės žiniasklaidos įmonių nesugebėjimas užkirsti kelią dezinformacijai, kad jų teikiamos paslaugos neapsunkintų. Žurnalistai, visuomenės sveikatos ir medicinos specialistai, pilietinės visuomenės lyderiai ir miestų administratoriai, pavyzdžiui, teisėsaugos ir rinkimų pareigūnai, prisiima dezinformacijos išlaidas ir naštą, susijusią su jos padariniais. Daugelis žmonių, bendraudami su draugais ir šeimos nariais, svarsto politines problemas, tačiau kai dezinformacija apie protestus pradėjo sutelkti baltuosius budinčius asmenis, o medicininė dezinformacija paskatino žmones sumenkinti pandemiją, skirtingi profesiniai sektoriai ėmėsi svarbių naujų vaidmenų. pasisako už tiesą .

Imkime visuomenės sveikatos ir medicinos specialistus, kurie turėjo kurti išteklius, kad sumažintų medicininę dezinformaciją apie COVID-19. Gydytojai bando tapti internetiniais influenceriais, kad ištaisytų melagingus patarimus ir klaidingus teiginius apie stebuklingus išgijimus – atima laiką nuo priežiūros ar gydymo kūrimo. Tuo tarpu daugelis naujienų skyrių prisitaikė prie dezinformacijos socialinėje žiniasklaidoje normalizavimo, sukurdamos dezinformacijos ritmą – paneigdamos sąmokslo teorijas ar netikrų naujienų teiginius, galinčius paveikti jų skaitytojus. Tačiau tuos išteklius būtų daug geriau išleisti žurnalistikai palaikyti, o ne iš esmės veikti kaip trečiųjų šalių turinio moderatoriai.

Susijusi istorija

Dėkojame, kad paskelbėte: Rūkymo pamokos, kaip reguliuoti socialinę žiniasklaidą Buvę „Facebook“ vadovai pripažįsta, kad naudojo tabako pramonės žaidimų knygelę priklausomybę sukeliantiems produktams. Galbūt tai taip pat gali būti naudojama žalai panaikinti.

Pilietinės visuomenės organizacijos taip pat buvo priverstos išleisti išteklius dezinformacijai stebėti ir savo bazei apsaugoti nuo tikslinių kampanijų. Rasinė dezinformacija yra patyrusi vidaus ir užsienio įtakos operacijų taktika: kampanijose apsimetinėjama spalvotomis bendruomenėmis arba naudojamas rasizmas, siekiant sustiprinti poliarizaciją pleišto klausimais. Brandi Collins-Dexter liudijo apie šias problemas per Kongreso posėdį birželio mėn., pabrėždamas, kaip technologijų įmonės slepiasi už raginimų bet kokia kaina ginti žodžio laisvę, bet nedaro pakankamai pastangų, kad apsaugotų juodaodžių bendruomenes, į kurias kasdien socialinėje žiniasklaidoje taikosi dezinformacija, neapykanta, kurstymas ir priekabiavimas.

Rinkimų pareigūnai , teisėsaugos darbuotojai ir pirmieji gelbėtojai yra labai nepalankioje padėtyje, bandydami atlikti savo darbą, o gandai ir sąmokslo teorijos sklinda internete. Dabar, teisėsauga ruošiasi smurtui balsavimo vietose.

Kelias tobulėti

Kai dezinformacija plinta iš skaitmeninio į fizinį pasaulį, ji gali nukreipti viešuosius išteklius ir kelti grėsmę žmonių saugumui. Štai kodėl socialinės žiniasklaidos įmonės turi žiūrėti į šią problemą taip pat rimtai, kaip ir į savo norą pasipelnyti.

Tačiau jiems reikia tobulėti. Ryšių ir padorumo įstatymo 230 straipsnis įgalina socialinės žiniasklaidos įmones pagerinti turinio moderavimą, tačiau politikai pagrasino panaikinti šias apsaugas kad jie galėtų tęsti savo propagandos kampanijas. Visą spalio mėnesio posėdį šmėkštelėjo nauja agentūra, kuri galėtų savarankiškai audituoti pilietinių teisių pažeidimus, nagrinėti duomenų privatumo klausimus ir vertinti. šios pramonės rinkos išorės poveikį kituose sektoriuose.

Kaip argumentavau per posėdį, didžiulis socialinės žiniasklaidos pasiekiamumas visame pasaulyje reiškia, kad svarbu, kad reguliavimas neprasidėtų 230 skirsnio panaikinimu, kol nebus priimta nauja politika.

Iki tol mums reikia daugiau skaidrumo. Dezinformacija nėra vien tik apie faktus; kalbama apie tai, kas gali pasakyti, kokie yra faktai. Sąžiningi turinio moderavimo sprendimai yra viešosios atskaitomybės pagrindas.

Užuot laikęsi technostalgija tuo metu, kai dar nebuvo taip blogai, kartais verta paklausti, ko reikėtų norint išrasti socialinę žiniasklaidą, kad galėtume nubrėžti norimo žiniatinklio – demokratiją skatinančio žiniatinklio – kursą. žinios, rūpestis ir teisingumas. Priešingu atveju kiekvienas nepaaiškinamas technologijų kompanijų sprendimas dėl prieigos prie informacijos gali tapti pašaru sąmokslininkams ir, dar blogiau, pagrindu peržengti vyriausybės politiką.

paslėpti