Viena iš pirmaujančių AI etikos tyrėjų teigia, kad ji buvo atleista iš „Google“.

Timnitas Gebru

Kimberly White / Stringer





Gruodžio 2 d. AI tyrimų bendruomenė buvo šokiruota sužinojusi, kad Timnit Gebru buvo atleista iš pareigų „Google“. Gebru, vienas iš pirmaujančių atsakingų dirbtinio intelekto tyrimų atstovų, žinomas, be kita ko, dėl novatoriško darbo, atskleidusio diskriminacinis veido atpažinimo pobūdis , įkūręs Black in AI giminingumo grupę, ir nepaliaujamai pasisako už įvairovę technologijų pramonėje .

Tačiau trečiadienio vakarą ji paskelbė „Twitter“ tinkle kad ji buvo atleista iš „Google“ etikos dirbtinio intelekto bendros vadovės pareigų. Matyt, mano vadovo vadovė išsiuntė el. laišką [į] mano tiesiogines ataskaitas, sakydama, kad ji sutiko su mano atsistatydinimą. Aš neatsistatydinau, sakė ji.

Į interviu su Bloomberg Ketvirtadienį Gebru sakė, kad atleidimas įvyko po užsitęsusios kovos su jos viršininkais dėl dirbtinio intelekto etikos tyrimo dokumento paskelbimo. Vienas iš Gebru žinučių ir vėliau vidinis el Jeffas Deanas, „Google AI“ vadovas, teigia, kad dokumentas buvo kritikuojamas aplinkosaugos išlaidas ir didelių kalbų modelių įterptosios paklaidos.



Gebru, kuris parašė darbą su keturiais „Google“ kolegomis ir dviem išorės bendradarbiais, pateikė jį kitais metais vyksiančiam mokslinių tyrimų konferencijai. Po vidinės peržiūros jos buvo paprašyta atsiimti dokumentą arba pašalinti „Google“ darbuotojų vardus. Ji atsakė, kad tai padarys, jei jos viršininkai atitiks tam tikras sąlygas. Jei jie negalėtų, ji tai padarytų dirbti paskutinę dieną , Ji pasakė.

Ji taip pat atsiuntė a nusivylęs el į vidinį sąrašo serverį „Google Brain Women and Allies“, išsamiai aprašydamas pasikartojančius sunkumus, kuriuos ji patyrė būdama juodaodė tyrėja. Ji rašė, kad mes ką tik ištyrėme juodaodžius iš visų rankų su tokiu emociniu susierzinimo šou. Ar žinai, kas nutiko nuo to laiko? Nutildymas pačiu esminiu įmanomu būdu.

Tada Gebru išvyko atostogų ir prieš grįždama gavo el. laišką iš Megan Kacholia, „Google Research“ inžinerijos viceprezidentės. Dėkojame, kad paaiškinote savo sąlygas, laiške buvo nurodyta , kaip tviteryje paskelbė Gebru. Mes negalime sutikti su 1 ir 2, kaip jūs prašote. Gerbiame jūsų sprendimą palikti „Google“ ir priimame jūsų atsistatydinimą. Jos el. laiškas sąrašo serveriui neatitiko „Google“ vadovo lūkesčių. Todėl nedelsiant priimame jūsų atsistatydinimą, kuris įsigalioja šiandien.

Ketvirtadienio rytą, socialiniuose tinkluose pasipylus paramai Gebru, Deanas atsiuntė anketą vidinis el „Google“ AI grupei pateikdamas savo situaciją. Jis sakė, kad Gebru darbas neatitiko mūsų publikavimo kriterijų, nes jame buvo nepaisoma per daug svarbių tyrimų. Jis taip pat sakė, kad Gebru sąlygos apėmė kiekvieno žmogaus, su kuriuo mes su Megan kalbėjomės ir konsultavomės, tapatybės atskleidimą, kaip dalį dokumento peržiūros ir tikslių atsiliepimų.



Atsižvelgdamas į Timnit, kaip gerbiamo tyrinėtojo ir mūsų etiško AI komandos vadovo, vaidmenį, jaučiuosi blogai, kad Timnit pateko į vietą, kur ji taip jaučiasi dėl mūsų atliekamo darbo, rašė jis. Žinau, kad mes visi nuoširdžiai dalijamės Timnit aistra padaryti AI teisingesnį ir įtraukesnį.

Nei Gebru, nei Deanas, nei Google komunikacijos atstovai neatsakė į prašymus komentuoti, o daugelis detalių, susijusių su tikslia įvykių eiga ar nutraukimo priežastimi, lieka neaiškios. Kai jie ir toliau atsiranda, daugelis į juos vėl atkreipė dėmesį lapkričio 30 d kurį Gebru prisegė savo profilio viršuje. Ar kas nors dirba su reguliavimu, apsaugančiu etiškus AI tyrėjus, panašius į pranešėjų apsaugą? tai skaito. Kadangi dėl cenzūros ir bauginimų, kurie vyksta prieš tam tikrose grupėse esančius žmones, kaip kas nors gali pasitikėti, kad gali vykti bet koks tikras šios srities tyrimas?

paslėpti