211service.com
Pradėjau verkti: Timnit Gebru paskutinės dienos „Google“ ir kas nutiks toliau
.
Nhung Le
2020 m. gruodžio 16 d
Iki šiol visi girdėjome tam tikrą istorijos versiją. Gruodžio 2 d., po užsitęsusių nesutarimų dėl tyrimo dokumento išleidimo, Google atmetė savo etišką dirbtinio intelekto lyderį Timnitą Gebru . Popierius buvo ant didelių kalbų modelių rizika , AI modeliai, parengti naudojant stulbinančius tekstinių duomenų kiekius, kurie yra „Google“ verslo tyrimų pagrindas. Gebru, AI etikos lyderis, buvo viena iš vienintelių juodaodžių moterų „Google Research“.
Nuo to laiko šis žingsnis sukėlė diskusijas apie didėjančią įmonių įtaką dirbtiniam intelektui, ilgalaikį technologijų įvairovės trūkumą ir tai, ką reiškia atlikti prasmingus AI etikos tyrimus. Gruodžio 15 d. daugiau nei 2 600 „Google“ darbuotojų ir 4 300 kitų akademinės bendruomenės, pramonės ir pilietinės visuomenės atstovų pasirašė peticiją pasmerkęs Gebru atleidimą, pavadindamas tai precedento neturinčia tyrimų cenzūra ir keršto aktu.
Susijusi istorija
Perskaitėme dokumentą, dėl kurio Timnitas Gebru buvo priverstas pasitraukti iš „Google“. Štai kas jame parašyta. Bendrovės etikos žvaigždės tyrėjas pabrėžė didelių kalbų modelių, kurie yra labai svarbūs „Google“ verslui, riziką.
Gebru yra žinomas dėl pamatų darbų atskleisti AI diskriminaciją , besivystantis dokumentavimo metodai ir AI modelių auditas ir pasisako už didesnę mokslinių tyrimų įvairovę. 2016 m. ji buvo viena iš įkūrėjų pelno nesiekianti Black in AI , kuris tapo pagrindiniu pilietinių teisių aktyvistų, darbo organizatorių ir pirmaujančių dirbtinio intelekto etikos tyrinėtojų šaltiniu, ugdančiu ir išryškinančiu juodaodžių dirbtinio intelekto tyrimų talentus.
Darbo praradimas Gebru nesustabdė. Kitą savaitę ji dalyvavo keliuose seminaruose NeurIPS – didžiausioje kasmetinėje AI tyrimų konferencijoje, kurioje šiais metais dalyvavo daugiau nei 20 000 žmonių. Ji sako, kad buvo gydoma matyti, kaip bendruomenė, kurią ji padėjo sukurti, pasirodė ir palaikė viena kitą. Dabar, praėjus dar savaitei, ji tiesiog atsipalaiduoja ir atgauna kvapą – ir bando visa tai suprasti.
Pirmadienį, gruodžio 14 d., per Zoom pasivijau Gebru. Ji papasakojo, kas nutiko dirbant „Google“, apmąstė, ką tai reiškė šiai sričiai ir AI etikos tyrimams, ir davė atsisveikinimo žodžius tiems, kurie nori, kad technologijų įmonės būtų atsakingos. Taip pat galite klausytis specialaus mūsų podcast'o „In Machines We Trust“ epizodo, kad sužinotumėte svarbiausius pokalbio momentus. („Google“ atmetė prašymą pakomentuoti šio interviu turinį.)
Toliau pateikta informacija buvo redaguota ir sutrumpinta.
Pirmiausia norėjau pasidomėti, kaip tau sekasi.
Jaučiu, kad tikrai neturėjau laiko emociškai apdoroti visko, kas atsitiko, ir jo pasekmes. Aš tiesiog einu, einu ir einu. Taigi jaučiu, kad tikriausiai kada nors subyrėsiu, kai bus šioks toks užliūlis. Tačiau šiuo metu aš tiesiog labai susirūpinęs dėl savo komandos ir mane palaikančių žmonių, rizikos, kurią jie prisiima, ir stengiuosi, kad jiems nebūtų atsakoma.
Buvo tiek daug pasakojimų apie tai, kas nutiko. Norėjau pradėti nuo daug ankstesnio šios istorijos taško. Kas paskatino jus iš pradžių pasirinkti dirbti „Google“ ir kokia tada buvo „Google“?
aš manau Samy [Bengio, „Google AI“ direktorius] ir Jeffas [Deanas, „Google Research“ vyriausiasis viceprezidentas] buvo „Black in AI“ dirbtuvėse [NeurIPS 2017 m.]. Jie manęs klausė, ką aš padariau, ir jie atsakė: „Taip, turėtumėte ateiti dirbti į „Google“. Aš to neplanavau. Tuo metu baigiau doktorantūros studijas „Microsoft Research“ [MSR]. Nebuvau sugalvojusi, ką veiksiu toliau. Bet aš žinojau, kad noriu grįžti į Bay Area, ir jie kūrė biurą Akroje, Ganoje. Pagalvojau, kad būtų gerai, jei galėčiau padėti.
Turėjau daug išlygų. Buvau Niujorke, MSR, ir ten buvo daug balsingų moterų – Danah Boyd, Hannah Wallach, Jen [Wortman Vaughan], Kate Crawford, Mary Gray. Spalvotų moterų tikrai nebuvo. Vienintelės juodaodės moterys, kurias pažįstu iš visų „Microsoft Research“, yra Danielle Bellgrave JK ir Shawndra Hill Niujorke. Bet vis tiek net vyrai labai palaikė. Labai nesiryžau patekti į aplinką, kurioje žinojau, kad „Google Research“ nėra gerai žinoma dėl moterų gynimo. Buvo keletas problemų, kurias girdėjau per savo šnabždesio tinklus. Tiesą sakant, kai sakiau, kad eisiu į „Google Research“, daug žmonių mane susodino. Taigi aš tiesiog jau to bijojau, pavyzdžiui, oi, žmogau, gerai, į ką aš einu?
Neabejotinai buvau pirmoji juodaodė moteris, dirbanti „Google“ mokslininke. Po manęs mes turime dar dvi juodaodes. Tai, pavyzdžiui, iš daugelio tyrinėtojų mokslininkų. Šimtai ir šimtai. Trys iš Dievas žino kiek.
Jie nenuvylė. Tai buvo tiesiog nuolatinė kova. Bandžiau tai traktuoti kaip pokalbį su žmonėmis, bandžiau juos šviesti, siekti, kad jie pamatytų tam tikrą požiūrį. Aš vis galvojau, kad jie gali padaryti geriau, žinote? Su Samy jis tapo tokiu didžiuliu advokatu. Žmonės skundėsi, kad ši organizacija [Google Research] pasamdė tik 14 % moterų. Samy, mano vadovas, pasamdė 39% moterų. Neatrodė, kad jis turėjo kokių nors paskatų tai daryti. Jis buvo vienintelė priežastis, dėl kurios jaučiu, kad man to anksčiau nebuvo nutikę. Tikriausiai todėl, kad jis mus saugojo. O mus saugodamas jis pats patektų į bėdą. Jei kiti lyderiai tvarko jus tonu, o jūs per garsiai kalbate, esate kaip rūpesčių sukėlėjas – visi žinome, kad taip atsitinka tokiems žmonėms kaip aš – tada, jei kas nors jus gins, jie, be abejo, bus problema. kitiems lyderiams.
Taigi tai buvo mano dveji metai „Google“. Tiesą sakant, iki paskutinio incidento maniau, kad galbūt padarėme pažangą, nes mūsų komanda augo. Ji beveik subyrėjo – praėjus dviem mėnesiams, kai dirbau „Google“, mano kolegė Meg Mitchell ketino išeiti iš darbo. Bet tada mes išplėtėme savo komandą ir dabar esame 12 žmonių. Taigi maniau, kad judame į priekį.
Buvo tiek daug kalbų apie įvairovę ir įtrauktį, bet tiek daug veidmainystės. Esu viena iš 1,6 % juodaodžių moterų Google. [Google] tyrime jis nėra 1,6 % – tai daug mažesnis. Neabejotinai buvau pirmoji juodaodė moteris, dirbanti „Google“ mokslininke. Po manęs mes turime dar dvi juodaodes. Tai, pavyzdžiui, iš daugybės tyrinėtojų mokslininkų. Šimtai ir šimtai. Trys iš Dievas žino kiek.
Taigi tam tikru momentu man buvo tiesiog, žinai ką? Aš net nenoriu kalbėti apie įvairovę. Tai tiesiog vargina. Jie nori su tavimi susitikti, tavęs neklauso, o paskui nori vėl susitikti su tavimi. Aš parašiau milijoną dokumentų apie milijoną su įvairove susijusių dalykų – apie rasinį raštingumą ir mašininį mokymąsi [ML], ML sąžiningumo iniciatyvas, apie moterų išlaikymą ir problemas. Tiek daug dokumentų ir tiek daug el.
Taigi tai buvo vienas dalykas po kito. Nebuvau nei vienos atostogos, kurias praleidau „Google“, kai nebūčiau susidūręs su tam tikromis ar kitokiomis problemomis. Tai tiesiog niekada nebuvo ramybė. Įsivaizduokite, kad kažkas šaudo į jus iš ginklo, o jūs rėkiate. Ir užuot bandę sustabdyti asmenį, kuris šaudo į jus iš ginklo, jie bando neleisti jums rėkti. Taip jautėsi. Buvo tiesiog taip skausminga būti tokioje padėtyje vėl ir vėl.
Sėkmingai sukūrėte vieną iš pačių įvairiausių AI pramonės komandų. Ko iš tikrųjų reikėjo, kad tai padarytum?
Turėjome kovoti su visokiais dalykais. Turėjau būti vadybininku, o tada žmonės nenorėjo, kad būčiau vadovu. Man atrodė, kad gerai, aš įkūriau labai gerai žinomą ne pelno organizaciją. Kodėl jūs „nerimaujate“ dėl to, kad aš esu vadovas? Semis man to nesakė, bet jis turėjo perduoti šią žinią: ar ji žino, kad gali būti atleista dėl dalykų? Ar ji žino, kad jei taps vadove, ji turės būti „Google“ atstove? Tada žmonės išreiškė susirūpinimą, kad aš „Google“ esu nepatenkintas. Tai nėra taip, oi, yra toksiška kultūra, dėl kurios tokie žmonės kaip ji yra nelaimingi. Taigi sutvarkykime tą kultūrą. Ne, tai nebuvo pokalbis. Pokalbis buvo toks, kad ji atrodo nepatenkinta, todėl nedarykime jos vadove.
Tuo metu buvau susierzinęs. Buvau toks piktas. Klausiau kiekvieno kito žmogaus, kuris tapo mano lygio vadovu, kokia jų patirtis. Man atrodo, kad šis asmuo tapo vadovu ir niekas niekada jų neklausė, ar jie žinojo, kad bus atleisti dėl X, Y ir Z. Šis kitas asmuo tapo vadovu. Niekas neturėjo su jais kalbėtis. Jokios diskusijos nebuvo. Man taip nebuvo.
Įsivaizduokite, kad kažkas šaudo į jus iš ginklo, o jūs rėkiate. Ir užuot bandę sustabdyti asmenį, kuris šaudo į jus iš ginklo, jie bando neleisti jums rėkti.
Kitas dalykas: norėjome samdyti socialinius mokslininkus. Daug kartų tyrėjai tiesiog samdo savo draugus, o mes to nenorėjome. Paskambinome. Gavome 300 paraiškų. Peržiūrėjome juos ranka, nes norėjome įsitikinti, kad verbuotojai nefiltruoja tam tikrų žmonių grupių. Greitai paskambinome su 20 metų žmonėmis, surengėme interviu vietoje su 10 žmonių, tada pasamdėme du iš jų.
Maniau, kad darome pažangą, nes sugebėjome gauti išteklių šiems žmonėms samdyti. Taigi pagalvojau, kad galbūt Jeffas pradėjo palaikyti mūsų komandą ir remti tuos dalykus, kuriuos mes darome. Niekada neįsivaizdavau – tiksliai nežinau, kaip tai atsitiko, – bet tiesiog neįsivaizdavau, kad jis pasižadės [mano atleisti]. Neįsivaizduoju, kaip jis tai inicijavo, bet net ir jo pasižadėjimas man buvo kažkas tokio nuostabaus.
Ar per tą laiką, kai kūrėte komandą, pavyko užmegzti ryšius su kitomis „Google“ komandomis? Ar tam tikros organizacijos dalys tapo imlesnės dirbtinio intelekto etikos problemoms?
Dauguma mūsų komandos žmonių yra užtvindyti kitų komandų ar kitų žmonių prašymų. Ir vienas iš mūsų iššūkių buvo ne visada būti gaisro viduryje, nes norėjome turėti įžvalgą. Norėjome formuoti tai, kas nutiks ateityje, o ne tik reaguoti.
Didžiausias neatitikimas, kurį matau, yra tai, kad yra tiek daug žmonių, kurie mus gerbia, bet tada yra žmonės, esantys viršuje, pavyzdžiui, VP, kurie tiesiog negali mūsų pakęsti arba tiesiog visai negerbia mūsų autoriteto ar kompetencijos. Aš tai mačiau ne kartą. Tačiau žmonės, dirbantys „Google Cloud“ arba konkrečiai „Cloud AI“, kai kurie iš vyresniųjų vadovų – jie labai palaikė. Jaučiau, kad jie tikrai gerbė mūsų lyderystę, todėl stengsis mus įtraukti į daugybę dalykų. Kita vertus, šis paskutinis fiasko kilo ne iš jų. Turiu įtarimų, iš kurių VP tai buvo, ir jie tikrai negerbė mūsų kompetencijos ar vadovavimo.
Ar galėtumėte šiek tiek plačiau apie tai pakalbėti?
Na, net jei tik matai laiškas nuo Jeffo —Manau, kad jis neparašė šio el. laiško; Manau, kad kažkas jį parašė ir jis atsiuntė – jame kalbama apie tai, kad mūsų tyrime [darbas apie didelius kalbos modelius] buvo spragų, trūko literatūros. [Laiškas neatrodo] skamba taip, lyg jie kalbėtų su žmonėmis, kurie yra savo srities ekspertai. Tai nėra tarpusavio peržiūra. Tai nėra 2 apžvalgininkas, kuris jums sako: „Ei, trūksta šios citatos“. Tai grupė žmonių, kurių mes nepažįstame, kurie yra aukšti, nes ilgą laiką dirba „Google“, kuriems dėl kažkokios nežinomos priežasties ir proceso, kurio aš niekada nemačiau, buvo suteikta galia. uždaryti šį tyrimą.
Turėjome 128 citatas [tame dokumente] ir išsiuntėme savo dokumentą daugeliui šių žmonių, kuriuos cituodavome. Mes buvome tokie kruopštūs. Pasakiau, gerai, noriu keturiais segmentais suskirstyti žmones, kurių prašysime atsiliepimų. Vienas iš jų yra žmonės, kurie patys sukūrė didelius kalbų modelius, kad suprastų savo požiūrį. Vienas iš jų yra žmonės, dirbantys šių modelių šališkumo supratimo ir mažinimo srityje. Vienas iš jų yra žmonės, kurie gali nesutikti su mūsų nuomone. Vienas iš jų yra žmonės, kurie naudoja šiuos didelius kalbų modelius įvairiems dalykams. Ir mes turime visą dokumentą su visais šiais atsiliepimais, kuriuos turėjome peržiūrėti, ir kurį noriu padaryti dar prieš išleisdami šį darbą.
Tačiau tai, kaip jie [„Google“ vadovai] kalbėjosi su mumis, nebuvo taip, kaip jie kalbėjosi su visame pasaulyje žinomais ekspertais ir kalbininkais. Kaip ir Emily Bender [Vašingtono universiteto profesorė ir straipsnio bendraautorė] nėra koks nors atsitiktinis žmogus, kuris tiesiog užrašo savo vardą ant atsitiktinio popieriaus lapo. Man atrodė, kad visa tai buvo tokia nepagarbi.
Ar prieš šį konkretų dokumentą buvo atvejų, kai jautėte, kad „Google“ riboja arba riboja jūsų komandos galimybes atlikti tyrimus?
Jaučiau, kad anksčiau buvo atvejų, kai jie labai sumenkino tyrimų rezultatus. Žmonės kalbėjosi su viešaisiais ryšių klausimais, politika ar bet kuo, ir jie ginčijosi dėl tam tikros formuluotės ar tam tikros specifikos. Tą aš maniau, kad jie taip pat gali pabandyti padaryti su šiuo popieriumi. Taigi aš parašiau dokumentą ir nuolat jų klausiau: Kokie yra jūsų atsiliepimai? Ar norite pridėti skyrių? Pašalinti? Ką tai reiškia? Ko tu mūsų klausi?
Tai buvo mano el. laiškas penktadienį po Padėkos [ Lapkričio 27 d., likus penkioms dienoms iki Gebru atleidimo ], nes Padėkos dieną aš praleidau savo dieną rašydamas šį dokumentą, užuot gerai praleidęs laiką su šeima. Kitą dieną, penktadienį, kai turėjau atsiimti šį dokumentą, parašiau: Gerai, aš parašiau šį šešių puslapių dokumentą, kuriame aukštu ir žemu lygiu aptariau visus atsiliepimus, kuriuos galiu surinkti. Ir tikiuosi, kad bus bent jau atvirumas tolesniam pokalbiui, o ne tik tolesniems įsakymams. Parašiau tą el. Šitaip. Kaip Megan [Kacholia, „Google Research“ inžinerijos viceprezidentė] reaguoja į šį el. laišką? Pirmadienį ji į tai atsako ir sako: Ar galite patvirtinti, kad atsiėmėte dokumentą arba išbraukėte autorių vardus. Ačiū. Ir ar galite tai patvirtinti, kai tai padarysite. Atsiųskite man el. laišką ir patvirtinkite. Tarsi neturėčiau jokios agentūros.
Taip jie nesielgia su žmonėmis, kurie padarė šiurkštų nusižengimą. Jie įteikia jiems 80 milijonų dolerių ir suteikia jiems puikų išėjimą. Jie nedaro to, ką padarė su manimi.
Tada tame dokumente parašiau, kad tai buvo labai nepagarba Ethical AI komandai, todėl reikia pasikalbėti ne tik su Jeffu ir mūsų komanda bei Megan ir mūsų komanda, bet ir visu tyrimu apie pagarbą tyrėjams. ir kaip surengti tokias diskusijas. Ne. Jokio susidomėjimo su tuo.
Aš, beje, verkiau. Kai turėjau pirmąjį susitikimą, kuris buvo ketvirtadienį prieš Padėkos dieną, dieną prieš tai, kai ketinau eiti atostogų – kai Megan mums pasakė, kad turite atsiimti šį dokumentą, aš pradėjau verkti. Buvau toks nusiminęs, nes pasakiau: taip pavargau nuo nuolatinių čia kovos. Maniau, kad jei aš tiesiog ignoruosiu visą šią DEI [įvairovė, teisingumas ir įtraukimas] veidmainystę ir kitus dalykus, o tik sutelksiu dėmesį į savo darbą, tada bent jau galėčiau atlikti savo darbą. O dabar tu ateini dėl mano darbo. Taigi aš tiesiogine prasme pradėjau verkti.
Kaip manote, kas būtent šiame dokumente palietė šiuos įvykius? Ar manote, kad tai iš tikrųjų buvo apie šį dokumentą, ar turėjo įtakos kiti veiksniai?
Nežinau. Samy visa tai pasibaisėjo. Jis sakė, kad mes taip nesielgiame su mokslininkais. Turiu galvoje, kad jūs apskritai ne taip elgiatės su žmonėmis. Žmonės kalba apie tai, kaip, jei tai atsitiks kam nors taip pasiekusiam – tai verčia įsivaizduoti, ką jie daro žmonėms, ypač pažeidžiamoms grupėms.
Jie tikriausiai manė, kad aš dėl to tylėsiu. Nežinau. Nemanau, kad galutinis rezultatas buvo susijęs tik su šiuo dokumentu. Galbūt jie nustebo, kad aš bet kokiu būdu atsitraukiau. Vis dar bandau išsiaiškinti, kas atsitiko.
Ar, remdamasis ankstesniais įvykiais ir įtampa, kada nors įtarėte, kad viskas taip baigsis? O ar tikėjotės bendruomenės reakcijos?
Galvojau, kad jie gali mane padaryti pakankamai apgailėtiną, kad išvykčiau, ar panašiai. Maniau, kad jie būtų protingesni, nei tai darydami būtent tokiu būdu, nes tai yra daugybė problemų, kurias jie sprendžia: mokslinių tyrimų cenzūra, etinis AI, darbo teisės, DEI – visa tai, su kuria jie susidūrė. ugnis už prieš tai. Taigi nesitikėjau, kad taip nutiks, pavyzdžiui, visiškai nutrauksiu įmonės paskyrą. Tai taip negailestinga. Taip jie nesielgia su žmonėmis, kurie padarė šiurkštų nusižengimą. Jie perdavė jiems 80 mln , ir jie suteikia jiems gražų išėjimą, o gal jie pasyviai-agresyviai jų nereklamuoja, ar pan. Jie nedaro žmonėms, kurie iš tikrųjų kuria priešišką darbo aplinką, to, ką padarė man.
Sužinojau iš savo tiesioginių pranešimų, žinote? Kas yra taip, taip liūdna. Jie buvo tiesiog taip traumuoti. Manau, kad mano komanda išbuvo kartu iki 4 ar 5 valandos ryto, bandydama suprasti, kas nutiko. Ir apeiti Seimą – viskas buvo taip baisu ir negailestinga.
Maniau, kad jei aš tiesiog... susikoncentruosiu į savo darbą, tai bent jau galėčiau padaryti savo darbą. O dabar tu ateini dėl mano darbo. Taigi aš tiesiogine prasme pradėjau verkti.
Tikėjausi tam tikros paramos, bet tikrai nesitikėjau tokio srauto, koks yra. Buvo neįtikėtina tai pamatyti. Niekada, niekada nebuvau patyręs kažko panašaus. Aš turiu galvoje, atsitiktiniai giminaičiai man rašo žinutes, mačiau tai per žinias. To tikrai nesitikėjau. Tačiau žmonės šiuo metu labai rizikuoja. Ir tai man kelia nerimą, nes tikrai noriu įsitikinti, kad jie yra saugūs.
Minėjote, kad tai ne tik apie jus; tai ne tik apie Google. Tai daugybės skirtingų klausimų santaka. Ką ši konkreti patirtis sako apie technologijų įmonių įtaką dirbtiniam intelektui apskritai ir jų gebėjimą iš tikrųjų atlikti prasmingą darbą dirbtinio intelekto etikos srityje?
Žinote, buvo daug žmonių lyginant Big Tech ir Big Tobacco , ir kaip jie cenzūravo tyrimus, nors kurį laiką žinojo problemas. Aš stumiu atgal į akademinės bendruomenės ir technologijų dichotomiją, nes jie abu turi tą pačią labai rasistinę ir seksistinę paradigmą. Paradigma, kurią išmokstate ir perkeliate į „Google“ ar bet kur, prasideda akademinėje bendruomenėje. Ir žmonės juda. Jie eina į pramonę, o tada grįžta į akademinę bendruomenę arba atvirkščiai. Jie visi yra draugai; jie visi eina į tas pačias konferencijas.
Nemanau, kad pamoka yra ta, kad technologijų įmonėse neturėtų būti atliekami AI etikos tyrimai, bet manau, kad pamoka tokia, kad a) reikia atlikti daug daugiau nepriklausomų tyrimų. Turime turėti daugiau pasirinkimų nei tik DARPA (gynybos pažangių tyrimų projektų agentūra), palyginti su korporacijomis. Ir b) akivaizdu, kad reikia prižiūrėti technologijų įmones. Šiuo metu aš tiesiog nesuprantu, kaip galime toliau galvoti, kad jie patys reguliuos DEI, etiką ar bet ką. Jie elgėsi netinkamai ir nesiruošia daryti teisingo dalyko.
Manau, kad akademinės institucijos ir konferencijos turi permąstyti savo santykius su didelėmis korporacijomis ir pinigų sumą, kurią jos atima iš jų. Kai kurie žmonės net svarstė, pavyzdžiui, ar kai kuriose iš šių konferencijų neturėtų būti taikomas be cenzūros elgesio kodeksas ar kažkas panašaus. Taigi manau, kad šios konferencijos ir akademinės institucijos gali daug ką nuveikti. Šiuo metu yra per daug jėgų disbalanso.
Kaip manote, kokį vaidmenį etikos tyrėjai galėtų atlikti įmonėse? Tiksliau, jei jūsų buvusi komanda liks „Google“, kokį kelią matote jiems, atsižvelgiant į jų gebėjimą atlikti įtakingą ir prasmingą darbą?
Manau, kad turi būti kažkokia apsauga tokiems žmonėms ar tokiems tyrinėtojams. Akivaizdu, kad šiuo metu labai sunku įsivaizduoti, kaip kas nors galėtų atlikti realius tyrimus šiose korporacijose. Bet jei turėjote darbo apsaugą, pranešėjų apsaugą, jei turite daugiau priežiūros, žmonėms gali būti lengviau apsisaugoti, kai jie dirba tokį darbą. Labai pavojinga, jei tokių tyrinėtojų atlieka tai, ką mano bendradarbis vadino figos lapeliu – dangstymu. Kaip ir mes nieko nekeičiame, tik dedame figos lapą ant meno. Jei esate aplinkoje, kurioje žmonės, turintys galią, neinvestuoja į ką nors iš tikrųjų pakeisti, nes jie neturi jokios paskatos, akivaizdu, kad tokių tyrinėtojų įterpimas visiškai nepadės. Bet aš manau, kad jei pavyks sukurti atskaitomybės ir priežiūros mechanizmus, apsaugos mechanizmus, tikiuosi, kad galėsime leisti tokiems mokslininkams ir toliau egzistuoti korporacijose. Tačiau, kad tai įvyktų, reikia daug ką pakeisti.
Be to, kad konferencijose ar reglamentuose pakeičiamos paskatų struktūros, ar yra kitų mechanizmų ar dalykų, kuriuos galėtumėte matyti kaip šios išorinės priežiūros sistemos dalį? Ar matote kokį nors vaidmenį, kurį visuomenė galėtų atlikti laikydamas technologijų įmones atskaitingas?
Turiu daugiau apie tai galvoti. Manau, kad visuomenė turi būti geriau informuojama apie vaidmenį, kurį mūsų kasdieniame gyvenime atlieka technologijų įmonės ir dirbtinis intelektas. Daugelis žmonių padarė tikrai gerą darbą. Žmonės rašė knygas - Matematinės naikinimo ginklai buvo labai gera knyga man skaityti. Yra Užkoduotas šališkumas , dokumentinis filmas. Taip pat džiaugiuosi, kad pradedu matyti universitetus, siūlančius kai kurias iš šių informatikos pamokų. Manau, kad jų reikėtų reikalauti. Nicki Washington turi klasę Duke kurią norėčiau pasiimti. Ruha [Benjaminas] turi klasę [Prinstone] . Manau, kad mūsų supratimas apie tai, kaip vystomas mokslas ir kaip vystoma inžinerija, tereikia pakeisti. Visuomenė turi suprasti politinį šio darbo pobūdį. Aukštojo mokslo sistemos, mano nuomone, šiuo požiūriu labai atsilieka. Jiems reikia daug dirbti.
Kalbant apie visuomenę, manau, kad jei grįžčiau į prieš trejus, ketverius metus, supratimo būtų daug mažiau. Dabar tokie subjektai kaip ACLU (Amerikos piliečių laisvių sąjunga) yra labai įsitraukę; tu turi Algoritminio teisingumo lyga , „Black Lives“ duomenys , daug dirbu čia. Taigi manau, kad visuomenė gali sužinoti daugiau. Bet aš manau, kad tai labiau susiję su politikais, nes mes turime mechanizmą įtraukti visuomenę į įvairius dalykus. Tačiau politikai nesuteikia galimybės visuomenei įsitraukti. Pavyzdžiui, [duomenų analizės įmonė] Palantiras buvo naudojamas Naujajame Orleane už nuspėjamą policiją ir niekas nežinojo. Balsavimo nebuvo. Sąskaitos nebuvo. Jokių diskusijų apie tai nebuvo. Taigi mūsų vyriausybė turi aktyviai suteikti visuomenei galimybę pasverti tokias problemas.
Ką reiškia iš tikrųjų atlikti prasmingą AI etikos darbą?
Manau, galbūt tai reiškia, kad galite suabejoti pagrindinėmis AI prielaidomis ir pagrindiniais klausimais. Jūs neturite tiesiog dangstyti dalykų arba nebūti tiesiog reakcingu. Galite nuspėti ateitį ir pradėti anksti, kol produktai yra galvojami ir kuriami, o ne tik daryti dalykus po to. Tai yra svarbiausias dalykas, apie kurį galvoju. Ir kad žmonės, kuriuos labiausiai paveikė technologija, turėtų turėti didelį žodį, pradedant nuo pat pradžių.
Anksčiau minėjote, kad technologijų įmonėse etika dažnai kyla iš viršaus į apačią, iš žmonių, kuriems technologija nebūtinai turi įtakos. Kokia yra ideali pusiausvyra, kai iš tikrųjų pokalbį skatinantys balsai yra atskirti, o kartu dalyvauja ir aukščiausio lygio lyderiai?
Jei žmonės, esantys paraštėse, neturi galios, niekam nėra paskatos jų klausytis ar leisti jiems formuoti diskusiją. Taigi manau, kad aukščiausio lygio žmonės turi puoselėti aplinką, kurioje žmonės, esantys paraštėse, yra tie, kurie formuoja diskusijas apie šiuos dalykus, apie AI etiką, apie įvairovę ir įtrauktį.
Mus moko tada, kai objektyviai mokomės gamtos mokslų, vadinamo žvilgsniu iš niekur, tarsi neturėtum iškelti savo požiūrio į jį. Manau, kad žmonės turėtų elgtis visiškai priešingai.
Šiuo metu vyksta ne tai. Apsilankę „Google“ pamatysite visus aukšto lygio žmones, besilaikančius dirbtinio intelekto etikos – jie visiškai net nėra žmonės iš nepakankamai atstovaujamų grupių. Toks buvo pokalbis, kai aš ten buvau, ir daugelis iš mūsų buvo tuo labai nusivylę. Turėjome šiuos principus, vadinamus Nieko apie mus be mūsų, ir pats pirmas dalykas, kurį sugalvojome, buvo psichologinis saugumas. Ar gali įsivaizduoti? Tai reiškia, kad nebausk manęs už kalbėjimą, ką jie ir padarė. Taigi reikia ieškoti indėlio, bet vėlgi, nedarykite to grobuoniškai. Prieš net pagalvodami apie gaminius, kuriuos kuriate ar atliekamus tyrimus, turite pradėti įsivaizduoti: kaip galite dirbti su žmonėmis, esančiais užribyje, kad sukurtumėte šią technologiją?
Ar tam tikra prasme laikote save kankiniu?
Aš nesistengiau juo būti ir nemanau, kad dabar esu kankinys. Tikiuosi, kad esu daugiau pokyčių agentas. Bet taip, „Google“ mane padarė labiau, nei būčiau buvęs, jei su manimi to nepadarytų.
Kas tavęs laukia toliau?
O, žmogau. Neturėjau laiko apie tai galvoti. Šiuo metu tiesiogine prasme stengiuosi užtikrinti, kad mano komanda būtų saugi, kad pasakojimas apie tai, kas su manimi vyksta, būtų tikslus, ir, kai galiu, šiek tiek atsikvėpiu. Tikėkimės išgerti vyno, pavalgyti, suvalgyti šokolado, pabūti su šeima. Ir galbūt vėliau išsiaiškinsiu. Tačiau mano didžiausias prioritetas – nebūti tokioje aplinkoje, kokioje buvau. Tai mano didžiausias prioritetas.
Ką patartumėte kitiems žmonėms, kurie nori tęsti jūsų atliktą darbą?
Patariu perskaityti kai kuriuos mano paminėtus kūrinius, ypač jų Suknelė [Benjaminas] , Meredith [Broussard] , Safiya [Noble] , Simone Browne , ir daug kitų žmonių. Ir įtraukite į tai savo išgyventą patirtį. Nemėginkite savęs ištraukti iš šio darbo. Tai labai susiję su tavimi. Taigi jūsų kampas ir stiprumas priklausys nuo jūsų išgyventos patirties. Aš pasakiau pokalbį paskambinus Žinių ir mašininio mokymosi hierarchija , ir tai buvo maždaug apie tai: kaip mes mokomi, kai objektyviai mokomės gamtos mokslų, tai, kas vadinama žvilgsniu iš niekur, tarsi neturėtumėte pateikti savo požiūrio. Manau, kad žmonės turėtų elgtis visiškai priešingai.
Atnaujinimas: patikslinome Samy Bengio pareigų pavadinimą ir pataisėme nuorodą į tyrėją. Timnitas turėjo omenyje Jeną Wortmaną Vaughaną, vyresnįjį pagrindinį MSR tyrėją, o ne Jeną Chayesą, buvusį tos pačios įmonės direktorių.