„Google“ neapykantos kurstymo aptikimo algoritmas yra rasiškai šališkas

Kategorija: Silicio slėnis Paskelbta rugpjūčio 13 d

Dirbtinio intelekto sistemos, skirtos aptikti piktnaudžiaujantį internetinį turinį, labiau tikėtina, kad tviteriai būtų įžeidžiantys, jei juos paskelbė žmonės, kurie prisistato afroamerikiečiais.

Naujienos: Tyrėjai sukūrė dvi AI sistemas ir išbandė juos su daugiau nei 100 000 tviterinių žinučių duomenų rinkiniais, kuriuos žmonės komentavo tokiomis etiketėmis kaip įžeidžiantis, jokios arba neapykantą kurstančios kalbos. Vienas iš algoritmų neteisingai pažymėjo 46% neįžeidžiančių afroamerikiečių autorių tviterių kaip įžeidžiančius. Bandymai su didesniais duomenų rinkiniais, įskaitant 5,4 milijono tviterių, parodė, kad afroamerikiečių autorių įrašai buvo 1,5 karto labiau pažymėti kaip įžeidžiantys. Kai tyrėjai išbandė „Google“. Perspektyva AI įrankis, kurį bendrovė leidžia naudoti bet kam moderuoti internetines diskusijas, jie nustatė panašių rasinių tendencijų.

Sunku pasiekti pusiausvyrą: Dėl masinių šaudynių, kurias vykdo baltųjų viršenybės šalininkai JAV ir Naujojoje Zelandijoje, politikai vis dažniau ragina socialinės žiniasklaidos platformas imtis daugiau veiksmų siekiant panaikinti neapykantą kurstančią kalbą. Šie tyrimai pabrėžia, kokia sudėtinga tai yra užduotis. Ar kalba yra įžeidžianti, gali priklausyti nuo to, kas ją sako ir kas ją girdi. Pavyzdžiui, juodaodis, vartojantis N žodį, labai skiriasi nuo jį vartojančio baltojo. Tačiau AI sistemos nesupranta ir šiuo metu negali suprasti šio niuanso.

Rizika: Skubėdami naudoti programinę įrangą, kad automatiškai pašalintume įžeidžiančią kalbą, rizikuojame nutildyti mažumų balsus. Internetinio turinio tvarkymas yra a traumuojantis, sunkus darbas , todėl technologijų įmonės nori pasikliauti AI sistemomis, o ne žmonėmis (jos taip pat yra daug pigesnės). Šis tyrimas parodo didžiulę su šiuo metodu susijusią riziką.

Prisiregistruokite čia, kad gautumėte mūsų kasdienį naujienlaiškį „The Download“, kad gautumėte naujausių naujienų, kurias būtina perskaityti, dozę iš naujų technologijų pasaulio.