211service.com
Žurnalistėms ir politikėms kas 30 sekundžių siunčiamas įžeidžiantis tviteris
Mašininis mokymasis atskleidžia nerimą keliantį priekabiavimo, prievartos ir trolinimo lygį, skirtą moterims ir mažumoms „Twitter“. 2018 m. gruodžio 18 d
Marten Bjork | Atskleiskite purslą
„Twitter“ gali būti toksiška vieta. Pastaraisiais metais dėl trolinimo ir priekabiavimo svetainėje ji tapo itin nemalonia ir liūdinančia patirtimi daugeliui žmonių, ypač moterų ir mažumų atstovų. Tačiau automatiškai nustatyti ir sustabdyti tokį piktnaudžiavimą sunku tiksliai ir patikimai. Taip yra todėl, kad nepaisant pastarojo meto AI pažangos, mašinos paprastai vis dar stengiasi prasmingai reaguoti į žmonių bendravimą. Pavyzdžiui, dirbtiniam intelektui paprastai sunku atpažinti įžeidžiančius pranešimus, kurie gali būti sarkastiški arba užmaskuoti teigiamais raktiniais žodžiais.
Naujame tyrime buvo panaudotas pažangiausias mašininis mokymasis, kad būtų galima gauti tikslesnę „Twitter“ priekabiavimo masto nuotrauką. Jos analizė patvirtina tai, ką daugelis jau įtars: moterys ir mažumų žurnalistės bei politikės susiduria su šokiruojančiu kiekiu prievartos platformoje.
Tyrimą atliko Amnesty International bendradarbiaudama su Kanados įmone ElementAI , rodo, kad juodaodės politikės ir žurnalistės 84 % dažniau paminėtos įžeidžiančiuose ar probleminiuose tviteriuose nei tos pačios profesijos baltosios moterys.
Tai tiesiog erzina, sako Julienas Cornebise'as, Londono „ElementAI“ tyrimų direktorius. Šios moterys yra didelė visuomenės darbo dalis.
ElementAI tyrėjai pirmą kartą panaudojo mašininio mokymosi įrankį, panašų į tą, kuris naudojamas šlamšto klasifikavimui, kad nustatytų piktnaudžiavimo tviterius. Tada mokslininkai suteikė savanoriams iš anksto įslaptintų ir anksčiau nematytų tviterinių žinučių derinį, kad jie būtų klasifikuojami. „Twitter“ žinutės, kurios buvo įvardytos kaip įžeidžiančios, buvo naudojamos lavinant gilaus mokymosi tinklą. Rezultatas yra sistema, kuri, pasak Cornebise'o, gali įspūdingai tiksliai klasifikuoti piktnaudžiavimą.
Projekte daugiausia dėmesio buvo skirta politikams ir žurnalistams siunčiamiems tviteriams. Tyrimo metu 6500 savanorių iš 150 šalių padėjo klasifikuoti piktnaudžiavimą 228 000 žinučių, išsiųstų 778 politikėms ir žurnalistėms JK ir JAV 2017 m.
Tyrimo metu buvo nagrinėjami JK parlamento, JAV Kongreso ir Senato narėms moterims, taip pat žurnalistėms iš tokių leidinių kaip „Daily Mail“, „Gal Dem“, „Guardian“, „Pink News“ ir „The Sun“ JK bei „Breitbart“ ir „The Sun“. „New York Times“ JAV.
Nustatyta, kad šiuo laikotarpiu 778 moterims buvo išsiųsta 1,1 milijono įžeidžiančių tviterinių žinučių – tai prilygsta vienam kas 30 sekundžių. Taip pat nustatyta, kad 7,1 % visų tviterinių žinučių, siunčiamų šiuos vaidmenis atliekančioms moterims, yra įžeidžiantys. Tyrimą atlikę mokslininkai taip pat išleido įrankį, vadinamas Trolių patruliu , kad patikrintų, ar tviteryje nėra piktnaudžiavimo ar priekabiavimo.
Nors giluminio mokymosi metodas buvo didelis patobulinimas, palyginti su esamais piktnaudžiavimo aptikimo metodais, mokslininkai perspėja, kad mašininio mokymosi ar AI nepakaks norint nustatyti nuolatinį trolinimą. Cornebise sako, kad įrankis dažnai yra toks pat geras kaip žmonių moderatoriai, bet taip pat yra linkęs į klaidas. Jo teigimu, artimiausioje ateityje reikės tam tikro žmogaus sprendimo.
„Twitter“ buvo plačiai kritikuojamas dėl to, kad nepadarė daugiau savo platformos priežiūros. Milena Marin, dirbusi su projektu Amnesty International, sako, kad bendrovė bent jau turėtų būti skaidresnė dėl savo policijos metodų.
„Troll Patrol“ nėra „Twitter“ priežiūra ar priverstinis jos pašalinimas, sako Marinas. Tačiau ji perspėjo, kad „Twitter“ turi pradėti aiškiai suprasti, kaip tiksliai naudoja mašininį mokymąsi, kad nustatytų piktnaudžiavimą, ir skelbti techninę informaciją apie algoritmus, kuriais remiasi.
Atsakydama į pranešimą, „Twitter“ teisininkė Vijaya Gadde atkreipė dėmesį į piktnaudžiavimo apibrėžimo problemą. Norėčiau pastebėti, kad „probleminio“ turinio sąvoka, siekiant klasifikuoti turinį, yra ta, dėl kurios reikia tolesnės diskusijos, sakė Gadde pareiškime. Sunkiai dirbame, kad sukurtume pasauliniu mastu vykdomas taisykles ir pradėjome konsultuotis su visuomene kaip šio proceso dalį.