211service.com
Paieškos sistemos rezultatuose jau yra šališkumo ir jis tik pablogės
Naujoje knygoje teigiama, kad paieškos sistemų veikimo būdas toli gražu nėra be išankstinių nusistatymų. 2018 m. vasario 26 d
NYU knygų spauda
Internetas gali atrodyti kaip vienodos sąlygos, bet taip nėra. Safiya Umoja Noble vieną dieną susidūrė su šiuo faktu, kai naudojosi „Google“ paieškos varikliu ieškodama dalykų, kurie galėtų būti įdomūs jos dukterėčioms. Ji įvedė terminą juodos merginos ir grįžo su puslapiais, kuriuose dominavo pornografija.
Noble, USC Annenberg komunikacijos profesorius, buvo pasibaisėjęs, bet nenustebintas. Daugelį metų ji įrodinėja, kad interneto vertybės atspindi jo kūrėjus – daugiausia baltaodžius, Vakarų vyrus – ir neatstovauja mažumoms bei moterims. Naujausia jos knyga, Priespaudos algoritmai , išsamiai aprašomas tyrimas, kurį ji pradėjo po tos lemtingos „Google“ paieškos, ir jis tiria paslėptas struktūras, kurios lemia, kaip mes gauname informaciją internetu.
Šį mėnesį išleistoje knygoje teigiama, kad paieškos sistemų algoritmai nėra tokie neutralūs, kaip „Google“ norėtų manyti. Algoritmai skatina vienus rezultatus už kitus, ir net iš pažiūros neutrali kodo dalis gali atspindėti visuomenės šališkumą. Be to, be jokio supratimo apie tai, kaip veikia algoritmai ar koks platesnis kontekstas, paieškos gali nesąžiningai formuoti diskusiją tokia tema kaip juodos merginos.
Noble kalbėjosi su MIT technologijų apžvalga apie problemas, būdingas dabartinei sistemai, kaip „Google“ galėtų padaryti geriau ir kaip dirbtinis intelektas gali pabloginti situaciją.
SAFIYA UMOJA NOBLE ATLAIKUMAS
Kuo žmonės klysta dėl to, kaip veikia paieškos sistemos?
Jei ieškome artimiausio „Starbucks“, konkrečios citatos ar kažko labai siauro, lengvai suprantamo, tai veikia gerai. Tačiau kai pradedame įsigilinti į sudėtingesnes tapatybės, žinių sampratas, paieškos sistemos pradeda mus žlugdyti. Tai nebūtų tokia didelė problema, išskyrus tai, kad visuomenė tikrai pasitiki paieškos sistemomis, kad pateiktų jiems tai, kas, jų manymu, bus tiesa, patikrinta ar patikima. Čia, manau, mes turime didžiausią nesusipratimą visuomenėje apie tai, kas yra paieškos sistemos.
Kad pašalintų šališkumą, „Google“ paprastai nuslepia tam tikrus rezultatus. Ar yra geresnis požiūris?
Galėtume pagalvoti apie tokio ambicingo projekto, skirto susisteminti visas pasaulio žinias, atsisakymą arba galėtume perdaryti ir pasakyti: „Tai netobula technologija. Tai yra manipuliuojama. Mes parodysime, kaip juo manipuliuojama. Mes padarysime tokius mūsų gaminio matmenis skaidresnius, kad žinotumėte labai subjektyvų produkcijos pobūdį. Vietoj to, daugelio įmonių – ne tik „Google“ – padėtis yra ta, kad [jos] teikia kažką, kuo galite pasitikėti ir kuo galite pasikliauti, o štai čia tai tampa gana sudėtinga.
Kaip mašininis mokymasis galėtų įamžinti tam tikrą rasizmą ir seksizmą, apie kurį rašote?
Aš tvirtinu, kad dirbtinis intelektas arba automatizuotos sprendimų priėmimo sistemos šį šimtmetį taps žmogaus teisių problema. Tvirtai tuo tikiu, nes mašininio mokymosi algoritmai ir projektai naudoja duomenis, kurie jau yra šališki, neišsamūs, ydingi, ir [mes] mokome mašinas, kaip priimti sprendimus remiantis ta informacija. Mes žinome, kad [tai] sukels įvairių skirtingų rezultatų. Leiskite tik pridurti, kad dirbtiniu intelektu bus vis sunkiau įsikišti, nes bus mažiau aišku, kokie duomenys buvo naudojami kuriant tą AI arba kuriant tas sistemas. Yra daug įvairių duomenų rinkinių, kurie, pavyzdžiui, nėra standartizuoti, yra sujungti, kad būtų priimti sprendimai.
Nuo tada, kai 2010 m. pirmą kartą ieškojote juodaodžių merginų, ar matėte, kad viskas gerėja ar blogėja?
Nuo tada, kai pradėjau rašyti ir viešai kalbėti apie juodaodes merginas, ypač susijusias su pornografija, viskas pasikeitė. Dabar pornografija ir hiperseksualus turinys nėra pirmame puslapyje, todėl manau, kad tai buvo tylus patobulinimas, kuris nebuvo pasiektas su daugybe fanfarų. Tačiau kitos bendruomenės, pvz., Latina ir Azijos merginos, vis dar labai seksualizuojamos paieškos rezultatuose.