AI problemos, su kuriomis šiandien susiduria, siekia šimtmečius

Ari Liloanas

2015 m. kovą Keiptauno universitete Pietų Afrikoje kilo protestai dėl britų kolonialisto Cecil Rhodes universiteto miestelio statulos. Rodas, kalnakasybos magnatas, padovanojęs žemę, ant kurios buvo pastatytas universitetas, įvykdė genocidą prieš afrikiečius ir padėjo pamatus apartheidui. Po Rhodes Must Fall mitingo vėliava studentai reikalavo, kad statula būtų pašalinta. Jų protestai sukėlė pasaulinį judėjimą, kuriuo siekiama panaikinti kolonijinį palikimą, kuris išlieka švietime.

Įvykiai taip pat paskatino Shakirą Mohamedą, Pietų Afrikos AI tyrėją iš DeepMind, susimąstyti, koks kolonijinis palikimas taip pat gali egzistuoti jo tyrimuose. 2018 m., kai dirbtinio intelekto srityje buvo pradėta spręsti tokias problemas kaip algoritminė diskriminacija, Mohamedas parašė dienoraščio įrašą su savo pradinėmis mintimis. Jame jis paragino tyrėjus dekolonizuoti dirbtinį intelektą – perorientuoti šios srities darbą nuo Vakarų centrų, tokių kaip Silicio slėnis, ir įtraukti naujus balsus, kultūras ir idėjas, kad būtų vadovaujamasi technologijos vystymuisi.

Dabar po atnaujintas verksmas už Rhodes Must Fall Oksfordo universiteto miestelyje, paskatintą George'o Floydo nužudymo ir pasaulinio antirasizmo judėjimo, Mohamedas išleido naują laikraštį kartu su kolega Williamu Isaacu ir Oksfordo mokslų daktaro kandidatu Marie-Therese Png. Joje sukonkretinamos originalios Mohamedo idėjos pateikiant konkrečius pavyzdžius, kaip AI iššūkiai yra įsišakniję kolonializme, ir pateikiamos strategijos, kaip jas spręsti pripažįstant šią istoriją.

Kaip kolonijiškumas pasireiškia AI

Nors istorinis kolonializmas gali būti pasibaigęs, jo padariniai išlieka ir šiandien. Tai yra tai, ką mokslininkai vadina kolonijiškumu: idėja, kad šiuolaikinis galios disbalansas tarp rasių, šalių, turtingųjų ir vargšų bei kitų grupių yra galios disbalanso tarp kolonizatorių ir kolonizuotų pratęsimas.

Paimkite struktūrinį rasizmą kaip pavyzdį. Europiečiai iš pradžių sugalvojo rasių sąvoką ir jų skirtumus, kad pateisintų Afrikos vergų prekybą, o vėliau – Afrikos šalių kolonizaciją. JAV šios ideologijos poveikį dabar galima atsekti per šalies vergijos istoriją, Jimą Crow ir policijos žiaurumą.

Lygiai taip pat, kaip teigia straipsnio autoriai, ši kolonijinė istorija paaiškina kai kurias labiausiai nerimą keliančias AI savybes ir poveikį. Jie nustato penkias kolonijiškumo apraiškas lauke:

Algoritminė diskriminacija ir priespauda. Ryšys tarp algoritminės diskriminacijos ir kolonijinio rasizmo yra bene akivaizdžiausias: algoritmai, sukurti automatizuoti procedūras ir parengti remiantis duomenimis rasiškai neteisingoje visuomenėje, savo rezultatuose atkartoja tuos rasistinius rezultatus. Tačiau didžioji dalis šios rūšies AI daromos žalos stipendijų yra skirta JAV pavyzdžiams. Nagrinėjant jį kolonijiškumo kontekste, galima pažvelgti į pasaulinę perspektyvą: Amerika nėra vienintelė vieta, kurioje yra socialinė nelygybė. Visada yra grupių, kurios yra identifikuojamos ir pavaldomos, sako Isaacas.

Vaiduoklių darbas. Reiškinys, vaiduoklio darbas , nematomas duomenų darbas, reikalingas dirbtinio intelekto naujovėms palaikyti, puikiai išplečia istorinius ekonominius santykius tarp kolonizatoriaus ir kolonizuoto asmens. Daugelis buvusių JAV ir JK kolonijų – Filipinai, Kenija ir Indija – tapo JAV ir JK įmonių vaiduoklių darbo centrais. Šalių pigi angliškai kalbanti darbo jėga, dėl kurios jos natūraliai tinka duomenų darbui, egzistuoja dėl jų kolonijinės istorijos.

Beta testavimas. AI sistemos kartais išbandomos labiau pažeidžiamose grupėse, prieš jas įdiegiant tikriems vartotojams. Pavyzdžiui, „Cambridge Analytica“ beta versija išbandė savo algoritmus 2015 m. Nigerijos ir 2017 m. Kenijos rinkimuose, prieš pradėdama juos naudoti JAV ir JK. Vėliau tyrimai parodė, kad šie eksperimentai aktyviai sutrikdyta Kenijos rinkimų procesą ir sugriovė socialinę sanglaudą. Tokie bandymai atkartoja istorinį Britanijos imperijos kolonijų traktavimą kaip naujų vaistų ir technologijų laboratorijas.

AI valdymas. Geopolitinės galios disbalansas, kurį paliko kolonijinė era, taip pat aktyviai formuoja AI valdymą. Tai pasireiškė pastaruoju metu skubant formuoti pasaulines dirbtinio intelekto etikos gaires: besivystančios Afrikos, Lotynų Amerikos ir Centrinės Azijos šalys daugiausia buvo neįtrauktos į diskusijas, todėl kai kurios atsisakyti dalyvauti tarptautiniuose duomenų srauto susitarimuose . Rezultatas: išsivysčiusios šalys ir toliau neproporcingai daug naudos iš pasaulinių normų, sukurtų jų naudai, o besivystančios šalys toliau atsilieka.

Tarptautinė socialinė raida. Galiausiai, tie patys geopolitinės galios disbalansai daro įtaką AI naudojimui siekiant padėti besivystančioms šalims. AI for good arba AI for tvaraus vystymosi iniciatyvos dažnai yra paternalistiškos. Jie verčia besivystančias šalis priklausyti nuo esamų AI sistemų, o ne dalyvauti kuriant naujas, sukurtas jų pačių kontekstui.

Tyrėjai pažymi, kad šie pavyzdžiai nėra išsamūs, tačiau jie parodo, koks platus kolonijinis palikimas yra pasaulinėje AI plėtroje. Jie taip pat sujungia, atrodo, skirtingas problemas į vieną vienijančią tezę. Tai suteikia mums naują gramatiką ir žodyną, kad galėtume kalbėti apie tai, kodėl šios problemos yra svarbios, ir apie tai, ką ketiname daryti, kad galvotume apie šias problemas ir jas spręstume ilgainiui, sako Isaacas.

Kaip sukurti dekolonijinį AI

Tyrėjai teigia, kad žalingo AI poveikio tyrimo naudojant šį objektyvą nauda yra sistema, kurią jis suteikia būsimai žalai numatyti ir sumažinti. Png mano, kad tikrai nėra tokio dalyko kaip nenumatytos pasekmės – tik pasekmės, kurias patiria organizacijos ir mokslinių tyrimų institucijos, kai joms trūksta įvairaus atstovavimo.

Šiuo požiūriu mokslininkai siūlo tris būdus, kaip pasiekti dekolonijinį arba labiau įtraukiantį ir naudingesnį AI:

Kontekstą žinanti techninė plėtra. Pirma, dirbtinio intelekto tyrėjai, kuriantys naują sistemą, turėtų apsvarstyti, kur ir kaip ji bus naudojama. Jų darbas taip pat neturėtų baigtis kodo rašymu, bet turėtų apimti jo testavimą, politikos, kuri palengvina tinkamą jo naudojimą, palaikymą ir veiksmų prieš netinkamus veiksmus organizavimą.

Atvirkštinė globa. Antra, jie turėtų klausytis marginalizuotų grupių. Vienas iš pavyzdžių, kaip tai padaryti, yra jauniklių praktika dalyvaujamasis mašininis mokymasis , kuria siekiama įtraukti į jų dizainą labiausiai mašininio mokymosi sistemų paveiktus žmones. Tai suteikia tiriamiesiems galimybę mesti iššūkį ir diktuoti, kaip suformuluotos mašininio mokymosi problemos, kokie duomenys ir kaip renkami bei kur naudojami galutiniai modeliai.

Solidarumas. Atstumtoms grupėms taip pat turėtų būti suteikta parama ir ištekliai pradėti savo dirbtinio intelekto darbą. Jau egzistuoja kelios marginalizuotų AI praktikų bendruomenės, įskaitant Deep Learning Indaba , Juoda AI , ir Queer AI , ir jų darbas turėtų būti sustiprintas.

Tyrėjai teigia, kad nuo tada, kai paskelbė savo straipsnį, jie patyrė didžiulį susidomėjimą ir entuziazmą. Tai bent jau man signalizuoja, kad esama imlumo šiam darbui, sako Izaokas. Atrodo, kad tai yra pokalbis, į kurį bendruomenė nori pradėti.

paslėpti