„Facebook“ teigia, kad savo algoritmuose ieškos rasinio šališkumo

Kategorija: Dirbtinis intelektas Paskelbta liepos 22 d

Naujienos: „Facebook“ praneša, kad ruošiasi naujos vidinės komandos, kurios ieškos rasinio šališkumo algoritmuose, kurie valdo pagrindinį socialinį tinklą ir „Instagram“, rašo „Wall Street Journal“. Visų pirma, tyrimai bus susiję su neigiamu mašininio mokymosi poveikiu, kuris gali būti užkoduoti numanomą rasizmą treniruočių duomenyse – apie juodaodžius, ispanų ir kitas mažumų grupes.

Kodėl tai svarbu: Per pastaruosius kelerius metus vis daugiau tyrinėtojų ir aktyvistų pabrėžė šią problemą AI šališkumas ir neproporcingą poveikį mažumoms . „Facebook“, kuri naudoja mašininį mokymąsi savo 2,5 milijardo vartotojų kasdieninei patirčiai tvarkyti, jau gerokai pavėluota, kad būtų atliktas tokio pobūdžio vidinis vertinimas. Jau yra įrodymų, kad „Facebook“ skelbimų teikimo algoritmai diskriminuoti pagal rasę ir leisti reklamuotojams, pavyzdžiui, neleisti konkrečioms rasinėms grupėms matyti jų skelbimų.

Esant slėgiui: „Facebook“ dažnai vengia kaltinimų šališkumu savo sistemose. Prireikė kelerių metų blogos spaudos ir pilietinių teisių grupių spaudimo, kad pasiektume šį tašką. „Facebook“ įsteigė šias komandas po mėnesį trukusio reklaminio boikoto, kurį organizavo pilietinių teisių grupės, įskaitant „Anti-Defamation League“, „Colour of Change“ ir NAACP, ir paskatino didelius išlaidautojus, tokius kaip „Coca-Cola“, „Disney“, „McDonald's“ ir „Starbucks“. sustabdyti savo kampanijas.

Nėra lengvo pataisymo: Judėjimas sveikintinas. Tačiau tyrimo pradžia toli gražu neišsprendžia rasinio šališkumo problemos, ypač kai niekas iš tikrųjų nežino, kaip ją išspręsti. Daugeliu atvejų, treniruočių duomenyse yra šališkumo ir nėra gerų sutartų būdų jai pašalinti. Ir tų duomenų koregavimas – tam tikra forma algoritminis teigiamas veiksmas – yra prieštaringas. Mašininio mokymosi šališkumas taip pat yra tik viena iš socialinės žiniasklaidos problemų, susijusių su rase. Jei „Facebook“ ketina pažvelgti į savo algoritmus, jis turėtų būti platesnio pertvarkymo, kuris taip pat kovoja su politika, suteikiančia platformas rasistiniams politikams, baltųjų viršenybės grupėms ir holokausto neigėjams, dalis.

„Mes ir toliau glaudžiai bendradarbiausime su „Facebook“ atsakingo dirbtinio intelekto komanda, siekdami užtikrinti, kad įvertintume galimus mūsų atitinkamų platformų šališkumus“, – sako Stephanie Otway, „Instagram“ atstovė. „Dabar dar pradžia ir artimiausiais mėnesiais planuojame pasidalinti daugiau informacijos apie šį darbą.“