„Reddit“ automatinis moderatorius yra interneto ateitis ir labai netobula

vyro vaizdas žiūri į kompiuterio kodą trys monitoriai automoderator automod moderating reddit Jeffersonas Santosas per Unsplash

Per pastaruosius ketverius metus Shagun Jhaver moderavo keletą subredditų, stropiai naršydamas puslapius ir blokuodamas įrašus, kurie pažeidžia bendruomenės taisykles arba yra visiškai įžeidžiantys.

Džordžijos technikos universiteto doktorantas, kurio pagrindinis dėmesys skiriamas turinio moderavimui, Jhaveris susimąstė, ar automatinis moderatorius galėtų padėti jam sutaupyti ne tik laiko, bet ir psichinių krūvių, susijusių su psichologiškai alinančio turinio sijojimu. Taigi kartu su trimis kolegomis jis nusprendė išsiaiškinti, ar automatinis moderatorius – šiuo atveju AutoMod – iš tikrųjų dirbo.

Komanda asmeniškai moderavo kelis „Reddit“ puslapius, o po to davė interviu su 16 kitų kai kurių populiariausių svetainės subredditų moderatorių, įskaitant r/photoshopbattles, r/space, r/explainlikeimfive, r/oddlysatishing ir r/politics. iš kurių turi milijonus prenumeratorių. Visi pasikliauja „AutoMod“, kad padėtų jiems moderuoti. Jhaver pristatys dirbti kitą savaitę pas ACM konferencija apie kompiuterinį bendradarbiavimą ir socialinę kompiuteriją .

Socialinės žiniasklaidos platformos, pvz., „Facebook“, „Instagram“ ir „YouTube“, jau seniai pasitikėjo žmonių moderatoriais, kurie rankiniu būdu šukuoja turinį ir pašalina smurtinę bei įžeidžiančią medžiagą – nuo ​​rasistinės ir seksistinės neapykantos kurstymo iki atvirų masinių šaudynių vaizdo įrašų. Dažnai dirbdami pagal sutartį, už minimalų atlyginimą ir nedideles išmokas, moderatoriai gali praleisti ilgas valandas, o juos apibarstyti turiniu, daro didelę žalą jų psichinei sveikatai .

Automoderatoriai yra bandymas sušvelninti nuobodų ir neigiamą tokio darbo poveikį. „AutoMod“, kurį sukūrė Redditor Chad Birch, siekdamas padidinti jo gebėjimą moderuoti r/gaming kanalą, yra taisyklėmis pagrįsta priemonė, skirta identifikuoti žodžius, pažeidžiančius tam tikro puslapio paskelbimo politiką. Nuo tada jis buvo plačiai naudojamas – 2015 m. „Reddit“ jį pritaikė visoje svetainėje, o labai populiarios žaidimų transliacijos platformos „Twitch“ ir „Discord“ pasekė netrukus po to.

Vis dėlto abejotina, ar „AutoMod“ iš tikrųjų taupo laiką. Viena vertus, automobilių moderatoriai puikiai išmano tai, ką daro – jei jie užprogramuoti rasti keiksmažodžius, jie be klaidų suras ir blokuos įrašus, kuriuose jie yra. Jis gali siųsti pranešimus plakatams apie probleminį turinį, kuris, pasak Jhaverio, yra šviečiamasis, nes autoriai gali sužinoti, kas buvo negerai su tuo, ką jie paskelbė.

Tai nėra mažas žygdarbis. Kaip pažymi Jhaveris ir jo kolegos, nuo 2018 m. kovo iki spalio buvo pašalinta apie 22% visų „Reddit“ pateiktų pranešimų. Tai sudaro apie 17,4 mln. pranešimų per tą laikotarpį.

Bet tarkime, kad šis žodis yra svarbus kontekstui šiame įraše – 2016 m. vykusioje diskusijoje apie liūdnai pagarsėjusį būsimo prezidento Donaldo Trumpo komentarą apie moters lytinių organų griebimą , pavyzdžiui. Tokie įrašai būtų pažymėti dėl įžeidžiančios kalbos, nors šio pranešimo esmė visų pirma yra ta kalba. Jhaveris sako, kad tai erzina vartotojus, kurie turi grįžti ir paprašyti moderatorių atkurti įrašą.

Socialinės žiniasklaidos pasaulyje, kuriame nerimą keliantį turinį vis dažniau sudaro įžeidžiantys memai, tiesioginės šaudymo transliacijos ar kitas vaizdinis, be teksto turinys, „AutoMod“ pasitikėjimas raktinių žodžių paieška yra didelė atsakomybė.

Robertas Peckas, didelių subredditų r/pics ir r/aww moderatorius, tai puikiai žino. Kiekvienas iš šių puslapių yra pagrįstas vaizdu, ir kiekvienas turi milijonus sekėjų, skelbiančių daug daugiau turinio, nei būtų galima pagrįstai paprašyti perskaityti.

Vis dėlto jis sako, kad nors ir negali analizuoti vaizdų, „AutoMod“ palengvino jo darbą. Vartotojai tiesiogiai prideda vaizdų aprašus, o mes galime patikrinti tuos pavadinimus, sako jis. Mes ieškome paskyrų penėjimo ar šiukšlių, kurios turi paskyras, kurios automatizuoja įrašus. Jie dažnai naudoja skliaustus. Galime pasakyti, kad „AutoMod“ ieškotų tų modelių.

Patinka tai ar ne, „AutoMod“ ir į jį panašūs yra socialinės platformos moderavimo ateitis. Tikriausiai jis visada bus netobulas, nes mašinoms dar toli iki tikro žmogaus kalbos supratimo. Tačiau būtent tai ir turėtų būti automatizavimas: žmonių laiko sutaupymas atliekant varginančius ar nepriimtinus darbus. Galimybė susikoncentruoti ties žinutėmis, kurioms reikalingas žmogiškas prisilietimas, moderatoriaus darbas tampa daug vertingesnis, o moderatoriai ir plakatai gali sutelkti dėmesį į geresnius pokalbius.

Tai neišspręs bjauraus, kenkėjiško ar kitokio žalingo turinio žmonių paskelbimo problemos – tai vis tiek bus viena opiausių šiuolaikinį internetą kamuojančių problemų. Tačiau tai daro skirtumą. Peckas sako esąs dėkingas už „AutoMod“ sugebėjimą padėti jam paketiniu būdu apdoroti įrašus. Jis sako, kad tai galinga technologija ir gana patogi vartotojui. [AutoMod] yra mano galingiausias įrankis, ir be jo būčiau pasimetęs.

paslėpti