AI etikos grupės kartoja vieną iš klasikinių visuomenės klaidų

Getty

Tarptautinės organizacijos ir korporacijos lenktyniauja kurdamos pasaulines etiško dirbtinio intelekto naudojimo gaires. Deklaracijos, manifestai ir rekomendacijos užplūsta internetą. Tačiau šios pastangos bus bergždžios, jei jos neatsižvelgs į kultūrinį ir regioninį kontekstą, kuriame veikia AI.

Ne kartą buvo įrodyta, kad dirbtinio intelekto sistemos sukelia problemų, kurios neproporcingai paveikia marginalines grupes, o naudos teikia nedaugeliui privilegijuotųjų. Šiandien dedamos pasaulinės dirbtinio intelekto etikos pastangos, kurių yra dešimtys, siekia padėti visiems gauti naudos iš šios technologijos ir neleisti jai pakenkti. Paprastai kalbant, jie tai daro kurdami gaires ir principus, kurių turėtų laikytis kūrėjai, finansuotojai ir reguliavimo institucijos. Pavyzdžiui, jie gali rekomenduoti įprastą vidinį auditą arba reikalauti apsaugoti naudotojų asmenį identifikuojančią informaciją.

Manome, kad šios grupės turi gerų ketinimų ir atlieka vertingą darbą. DI bendruomenė iš tiesų turėtų susitarti dėl tarptautinių etiško AI apibrėžimų ir sąvokų rinkinio. Tačiau be didesnio geografinio atstovavimo jie sukurs pasaulinę AI etikos viziją, atspindinčią žmonių perspektyvas tik keliuose pasaulio regionuose, ypač Šiaurės Amerikoje ir šiaurės vakarų Europoje.

Šis darbas nėra lengvas ar paprastas. Sąžiningumas, privatumas ir šališkumas reiškia skirtingi dalykai (pdf) skirtingose ​​vietose. Žmonės taip pat turi skirtingų lūkesčių dėl šių sąvokų, priklausomai nuo jų pačių politinės, socialinės ir ekonominės realybės. AI keliami iššūkiai ir rizika taip pat skiriasi priklausomai nuo vietos.

Jei organizacijos, dirbančios su pasauline AI etika, to nepripažįsta, jos rizikuoja sukurti standartus, kurie geriausiu atveju yra beprasmiai ir neveiksmingi visuose pasaulio regionuose. Blogiausiu atveju dėl šių ydingų standartų atsiras daugiau AI sistemų ir įrankių, kurie išsaugo esamą šališkumą ir yra nejautrūs vietos kultūroms.

Pavyzdžiui, 2018 m. „Facebook“ lėtai ėmėsi veiksmų dėl dezinformacijos plinta Mianmare kurie galiausiai lėmė žmogaus teisių pažeidimus. Įvertinimas (pdf) sumokėjo bendrovė, nustatė, kad ši priežiūra iš dalies atsirado dėl „Facebook“ bendruomenės gairių ir turinio moderavimo politikos, kuri neatitiko šalies politinių ir socialinių realijų.

Daugelyje AI patariamųjų tarybų, ekspertų grupių ir tarybų akivaizdžiai trūksta regioninės įvairovės.

Siekdamos užkirsti kelią tokiems piktnaudžiavimams, įmonės, dirbančios pagal etikos gaires dirbtinio intelekto sistemoms ir įrankiams, turi įtraukti vartotojus iš viso pasaulio, kad padėtų sukurti atitinkamus standartus šioms sistemoms valdyti. Jie taip pat turi žinoti, kaip jų politika taikoma įvairiuose kontekstuose.

Nepaisant rizikos, daugelyje AI patariamųjų tarybų, ekspertų grupių ir tarybų, kurias skiria pirmaujančios tarptautinės organizacijos, akivaizdžiai trūksta regioninės įvairovės. The ekspertų patariamoji grupė Pavyzdžiui, Unicef ​​AI projekte vaikams nėra atstovų iš regionų, kuriuose didžiausia koncentracija vaikų ir jaunuolių, įskaitant Artimuosius Rytus, Afriką ir Aziją.

Deja, šiandieninėje AI etikos sferoje kyla rimtas pavojus apsiriboti kalbomis, idėjomis, teorijomis ir iššūkiais iš kelių regionų – visų pirma Šiaurės Amerikos, Vakarų Europos ir Rytų Azijos.

Šis regioninės įvairovės trūkumas atspindi dabartį DI tyrimų koncentracija (pdf) : 86 % 2018 m. AI konferencijose paskelbtų pranešimų buvo priskirti Rytų Azijos, Šiaurės Amerikos ar Europos autoriams. Ir mažiau nei 10 % nuorodų, išvardytų šiuose regionuose paskelbtuose AI dokumentuose, yra kito regiono dokumentai. Patentai taip pat labai koncentruoti: 51% 2018 metais paskelbtų AI patentų buvo priskirti Šiaurės Amerikai.

Tie, kurie dirba dirbtinio intelekto etikos srityje, padarys daugiau žalos nei naudos, jei leisime, kad sferos geografinės įvairovės trūkumas nulems mūsų pačių pastangas. Jei nebūsime atsargūs, galėtume kodifikuoti AI istorines tendencijas į gaires, kurios iškreiptų technologiją ateinančioms kartoms. Turime pradėti teikti pirmenybę balsams iš mažas ir vidutines pajamas gaunančių šalių ( ypač t žarna pasaulyje Pietų ) ir iš istoriškai marginalizuotų bendruomenių.

Technologijų pažanga dažnai buvo naudinga Vakarams, o kitur didino ekonominę nelygybę, politinę priespaudą ir aplinkos naikinimą. Ne Vakarų šalių įtraukimas į AI etiką yra geriausias būdas išvengti šio modelio pasikartojimo.

Susijusi istorija

Dalyvavimas-plovimas gali būti kita pavojinga mašininio mokymosi mada Daugelis žmonių jau dalyvauja šios srities darbuose be pripažinimo ar atlygio.

Geros naujienos yra tai, kad į tokias patariamąsias grupes reikia įtraukti daug ekspertų ir lyderių iš nepakankamai atstovaujamų regionų. Tačiau atrodo, kad daugelis tarptautinių organizacijų labai nesistengia prašyti šių žmonių dalyvauti. Naujai suformuotas Pasaulinis AI etikos konsorciumas Pavyzdžiui, nėra narių steigėjų, atstovaujančių akademines institucijas ar tyrimų centrus iš Artimųjų Rytų, Afrikos ar Lotynų Amerikos. Šis praleidimas yra ryškus pavyzdys kolonijiniai modeliai (pdf) kartojasi patys.

Jei ketiname kurti etiškas, saugias ir įtraukias AI sistemas, o ne dalyvauti etikos plovimas , pirmiausia turime sukurti pasitikėjimą tais, kuriems tos pačios sistemos istoriškai nukentėjo. Tai prasideda nuo prasmingo įsitraukimo.

Prie Monrealio AI etikos institutas , kur abu dirbame, bandome laikytis kitokio požiūrio. Organizuojame skaitmeninius AI etikos susitikimus, tai atviros diskusijos, prie kurių gali prisijungti visi, turintys interneto ryšį ar telefoną. Per šiuos renginius susisiekėme su įvairia asmenų grupe – nuo ​​Makao gyvenančio profesoriaus iki universiteto studento, studijuojančio Mumbajuje.

Tuo tarpu tokios grupės, kaip AI Partnerystė, pripažįstančios geografinės AI įvairovės trūkumą plačiau, rekomenduojami pakeitimai vizų įstatymus ir siūlomą politiką, kuri palengvina mokslininkų keliavimą ir dalijimąsi savo darbu. Maskhane , paprastų žmonių organizacija, vienija natūralių kalbų apdorojimo tyrinėtojus iš Afrikos, kad sustiprintų mašininio vertimo darbą, kuriame nepaisoma nedominuojančių kalbų.

Džiugina tai, kad tarptautinės organizacijos į savo diskusijas apie AI stengiasi įtraukti įvairesnių požiūrių. Mums visiems svarbu prisiminti, kad regioninė ir kultūrinė įvairovė yra esminis pokalbis apie AI etiką. Padaryti atsakingą AI norma, o ne išimtimi, neįmanoma be žmonių, kurie dar neturi galios ir įtakos, balso.

KAM bhishek Gupta yra įkūrėjas Monrealio AI etikos institutas ir mašininio mokymosi inžinierius įmonėje „Microsoft“, kur jis dirba CSE atsakingoje AI valdyboje. Viktorija Heath yra tyrėjas Monrealio AI etikos institutas ir vyresnysis mokslo darbuotojas Kanados NATO asociacija .

paslėpti