„Facebook“ reikia 30 000 savo turinio moderatorių, sakoma naujoje ataskaitoje

Associated Press Associated Press

Įsivaizduokite, jei „Facebook“ dabar nustotų moderuoti savo svetainę. Kiekvienas galėjo skelbti ką tik norėjo. Atrodo, kad patirtis rodo, kad tai gana greitai taptų a pragariška aplinka perpildytas šlamšto, patyčių, nusikaltimų, teroristinių galvų nukirtimo, neonacių tekstų ir seksualinės prievartos prieš vaikus vaizdų. Tokiu atveju tikriausiai pasitrauktų didžiulė vartotojų bazė, o paskui – pelningi reklamuotojai.

Bet jei nuosaikumas yra toks svarbus, jis nėra traktuojamas kaip toks. Didžioji dauguma iš 15 000 žmonių, kurie visą dieną praleidžia spręsdami, kas gali būti ir ko negali būti „Facebook“, net nedirba „Facebook“. Visa turinio moderavimo funkcija yra perduota trečiųjų šalių pardavėjams, kurie samdo laikinus darbuotojus dėl nesaugių sutarčių daugiau nei 20 vietų visame pasaulyje. Jie turi peržiūrėti šimtus pranešimų per dieną, iš kurių daugelis yra giliai traumuojantis . Klaidos yra paplitęs , nepaisant to, kad bendrovė priėmė AI įrankiai į skirstymo postus, pagal kuriuos reikia dėmesio. „Facebook“ pati pripažino, kad klaidų lygis yra 10 proc., nesvarbu, ar tai neteisingai pažymimi įrašai, kuriuos reikia pašalinti ir kurie turėtų būti tęsiami, ar atvirkščiai. Atsižvelgiant į tai, kad recenzentams per dieną tenka naršyti po tris milijonus pranešimų, tai prilygsta 300 000 klaidų kasdien. Kai kurios klaidos gali turėti mirtinų pasekmių. Pavyzdžiui, Mianmaro kariuomenės nariai naudojosi Facebook kurstyti genocidą prieš daugiausia musulmonų rohinjų mažumą 2016 ir 2017 m. Bendrovė vėliau tai pripažino nesugebėjo įgyvendinti savo politikos uždrausti neapykantą kurstyti ir smurto kurstymą.

Jei norime pagerinti moderavimą, „Facebook“ turi įtraukti turinio moderatorius į namus, padaryti juos pilnais darbuotojais ir padvigubinti jų skaičių. nauja ataskaita iš Niujorko universiteto Sterno verslo ir žmogaus teisių centro.

Ataskaitos autorius Paulas M. Barrettas, centro direktoriaus pavaduotojas, teigia, kad turinio moderavimas nepanašus į kitas išorines funkcijas, pvz., maisto gaminimą ar valymą. Tai yra pagrindinė socialinės žiniasklaidos verslo funkcija, todėl šiek tiek keista, kad tai traktuojama taip, lyg tai būtų periferinė ar kažkieno problema.

Kodėl „Facebook“ vadovai taip traktuoja turinio moderavimą? Barrettas sako, kad tai bent iš dalies priklauso nuo išlaidų. Jo rekomendacijos būtų labai brangu įmonei įgyvendinti – greičiausiai dešimtys milijonų dolerių (nors, atsižvelgiant į tai, milijardus dolerių pelno kiekvienais metais). Tačiau yra ir antra, sudėtingesnė priežastis. Turinio moderavimo veikla tiesiog netelpa į Silicio slėnio savivaizdį. Tam tikros veiklos rūšys yra labai vertinamos ir spalvingos – produktų naujovės, sumani rinkodara, inžinerija... niūrus turinio moderavimo pasaulis į tai netelpa, sako jis.

Jis mano, kad „Facebook“ laikas nuosaikumą laikyti pagrindine savo verslo dalimi. Jis teigia, kad tokiu būdu padidinus jos statusą, būtų išvengta katastrofiškų klaidų, padarytų Mianmare, padidėtų atskaitomybė ir geriau apsaugotų darbuotojus nuo žalos jų psichinei sveikatai.

Atrodo, kad neišvengiama realybė, kad turinio moderavimas visada bus susijęs su tam tikra siaubinga medžiaga, net jei darbas atliekamas viduje. Tačiau įmonė gali padaryti daug daugiau, kad būtų lengviau: geriau tikrinti moderatorius, kad įsitikintų, jog, pavyzdžiui, jie tikrai žino apie darbo riziką, ir užtikrinti, kad jiems būtų suteikta aukščiausios klasės priežiūra ir konsultacijos. Barrettas mano, kad turinio moderavimas galėtų būti tai, ką visi „Facebook“ darbuotojai turėtų daryti bent metus, kad padėtų jiems suprasti savo sprendimų poveikį.

Ataskaitoje pateikiamos aštuonios rekomendacijos „Facebook“:

• Sustabdykite turinio moderavimo paslaugas iš išorės ir padidinkite moderatorių vietą darbo vietoje.
• Padvigubinkite moderatorių skaičių, kad pagerintumėte turinio peržiūros kokybę.
• Pasamdykite ką nors, kas prižiūrėtų turinį ir faktų tikrinimą, kuris būtų tiesiogiai atskaitingas generaliniam direktoriui arba COO.
• Toliau plėskite nuosaikumą rizikos šalyse Azijoje, Afrikoje ir kitur.
• Suteikite visiems moderatoriams aukščiausios kokybės medicininę priežiūrą vietoje, įskaitant prieigą prie psichiatrų.
• Remti turinio moderavimo pavojaus sveikatai, ypač PTSD, tyrimus.
• Naršykite griežtai pritaikytą vyriausybės žalingo turinio reglamentą.
• Žymiai išplėsti faktų tikrinimą, siekiant paneigti klaidingą informaciją.

Pasiūlymai, švelniai tariant, ambicingi. Susisiekus dėl komentarų, „Facebook“ nediskutavo, ar svarstytų galimybę juos priimti. Tačiau atstovas teigė, kad dabartinis požiūris reiškia, kad galime greitai pritaikyti savo darbo jėgos dėmesį, jei reikia, ir pridūrė, kad tai suteikia mums galimybę įsitikinti, kad turime reikiamų kalbos žinių ir galime greitai samdyti įvairiose laiko juostose, atsižvelgiant į naujus poreikius. atsiranda arba kai to reikalauja situacija visame pasaulyje.

Tačiau Barrettas mano, kad neseniai atliktas eksperimentas, atliktas reaguojant į koronaviruso krizę, rodo, kad pokyčiai yra įmanomi. „Facebook“ paskelbė, kad daugelis jos turinio moderatorių negalėjo patekti į įmonės biurus, tai padarys perkelti atsakomybę įmonės darbuotojams norėdami patikrinti tam tikras neskelbtinas turinio kategorijas.

Man labai daug pasako, kad krizės metu Zuckerbergas pasitikėjo žmonėmis, kuriais pasitiki: savo visą darbo dieną dirbančiais darbuotojais, sako jis. Galbūt tai galėtų būti laikoma pokalbio „Facebook“ pagrindu apie turinio moderavimo būdo koregavimą.

paslėpti