Perskaitėme dokumentą, dėl kurio Timnitas Gebru buvo priverstas pasitraukti iš „Google“. Štai kas jame parašyta.

Bendrovės etikos žvaigždės tyrėjas pabrėžė didelių kalbų modelių, kurie yra labai svarbūs „Google“ verslui, riziką.





  • Karen Hao archyvo puslapis
2020 m. gruodžio 4 d Timnitas Gebru

Timnito Gebru sutikimu

Gruodžio 2 d., trečiadienio, vakarą Timnit Gebru, „Google“ etiško AI komandos vadovas, paskelbė per Twitter kad įmonė ją privertė išeiti.

Gebru, plačiai gerbiamas dirbtinio intelekto etikos tyrimų lyderis, yra žinomas kaip bendraautoris novatoriškas popierius parodė, kad veido atpažinimas ne toks tikslus identifikuojant moteris ir spalvotus žmones, o tai reiškia, kad naudojant šį metodą jie gali būti diskriminuojami. Ji taip pat buvo „Black in AI“ giminingumo grupės įkūrėja technologijų pramonės įvairovės šalininkai . Komanda, kuriai ji padėjo sukurti „Google“, yra viena iš pačių įvairiausių dirbtinio intelekto srityje ir apima daug pačių geriausių ekspertų. Šios srities kolegos pavydėjo, kad jis atlieka svarbų darbą, kuris dažnai kėlė iššūkį pagrindinei AI praktikai.



KAM tviterių serija , nutekėjusių el , ir žiniasklaidos straipsnis parodė, kad Gebru pasitraukimas buvo konflikto dėl kito dokumento, kurio bendraautorė ji buvo, kulminacija. Jeffas Deanas, „Google AI“ vadovas, papasakojo kolegoms vidiniame el. laiške (kurį jis turi nuo tada įdėti į internetą ), kad laikraštis neatitiko mūsų publikavimo reikalavimų ir Gebru pasakė, kad atsistatydins, nebent „Google“ įvykdys tam tikras sąlygas, kurių ji nenorėjo įvykdyti. Gebru parašė tai ji prašė susitarti dėl paskutinės įdarbinimo datos, kai ji grįžo iš atostogų. Prieš grįždama ji buvo atjungta nuo savo įmonės el. pašto paskyros.

Internete daugelis kitų AI etikos srities lyderių teigia, kad bendrovė ją išstūmė dėl nepatogių tiesų, kurias ji atskleidė apie pagrindinę savo tyrimų kryptį ir galbūt jos esmę. Taip pat turi daugiau nei 1 400 „Google“ darbuotojų ir 1 900 kitų rėmėjų pasirašė protesto raštą .

Daugelis detalių apie tikslią įvykių seką, lėmusią Gebru pasitraukimą, dar nėra aiškios; tiek ji, tiek „Google“ atsisakė komentuoti ne tik savo įrašus socialinėje žiniasklaidoje. Tačiau MIT Technology Review gavo tyrimo dokumento kopiją iš vienos iš bendraautorių Emily M. Bender, Vašingtono universiteto kompiuterinės lingvistikos profesorės. Nors Bender paprašė mūsų neskelbti paties dokumento, nes autoriai nenorėjo, kad toks ankstyvas juodraštis būtų platinamas internete, jis suteikia šiek tiek supratimo apie Gebru ir jos kolegų keliamus klausimus apie AI, kurie gali kelti „Google“ susirūpinimą.



Apie stochastinių papūgų pavojų: ar kalbų modeliai gali būti per dideli? nustato didelių kalbų modelių – dirbtinio intelekto, apmokytų stulbinančius teksto duomenų kiekius – riziką. Šie užaugo vis labiau populiarėja – ir vis didesnės – per pastaruosius trejus metus. Dabar jie nepaprastai gerai, esant tinkamoms sąlygoms, sukuria įtikinamą, prasmingą naują tekstą, o kartais ir įvertina prasmę iš kalbos. Tačiau, sakoma straipsnio įvade, klausiame, ar buvo pakankamai apgalvota galima rizika, susijusi su jų kūrimu, ir šios rizikos mažinimo strategijos.

Popierius

Straipsnyje, paremtame kitų tyrinėtojų darbais, pateikiama natūralios kalbos apdorojimo istorija, apžvelgiamos keturios pagrindinės didelių kalbos modelių rizikos ir siūlomi tolesni tyrimai. Kadangi atrodo, kad konfliktas su „Google“ kilo dėl rizikos, čia mes sutelkėme dėmesį į jų apibendrinimą.

Aplinkosaugos ir finansinės išlaidos

Didelių AI modelių mokymas sunaudoja daug kompiuterio apdorojimo galios, taigi ir daug elektros energijos. Gebru ir jos bendraautoriai remiasi Emmos Strubell ir jos bendradarbių 2019 m. anglies dvideginio išmetimą ir finansines išlaidas didelių kalbų modelių. Nustatyta, kad jų energijos suvartojimas ir anglies pėdsakas sparčiai didėja nuo 2017 m., nes modeliams pateikiama vis daugiau duomenų.



Strubell tyrimas parodė, kad mokant vieną kalbos modelį naudojant tam tikro tipo neuroninės architektūros paieškos (NAS) metodą, būtų pagaminta 626 155 svarų (284 metrinių tonų) anglies dvideginio ekvivalentas – maždaug penkių vidutinių amerikietiškų automobilių eksploatavimo trukmė. Mokoma „Google“ kalbos modelio BERT versija, kuri yra pagrindas įmonės paieškos sistema Strubell vertinimu, pagamino 1 438 svarus CO2 ekvivalento – beveik tiek pat, kiek skrydis pirmyn ir atgal iš Niujorko į San Franciską. Šie skaičiai turėtų būti laikomi minimaliais, vienkartinio modelio mokymo kaina. Praktikoje modeliai yra apmokomi ir perkvalifikuojami daug kartų tyrimų ir plėtros metu.

Gebru dokumento projekte pabrėžiama, kad didžiuliai ištekliai, reikalingi tokiems dideliems AI modeliams sukurti ir išlaikyti, reiškia, kad jie dažniausiai naudingi turtingoms organizacijoms, o klimato kaita labiausiai paliečia marginalines bendruomenes. Mokslininkams atėjo laikas teikti pirmenybę energijos vartojimo efektyvumui ir sąnaudoms, siekiant sumažinti neigiamą poveikį aplinkai ir nevienodą prieigą prie išteklių, rašo jie.

Milžiniški duomenys, neįskaitomi modeliai

Dideli kalbų modeliai taip pat mokomi eksponentiškai didėjančiam teksto kiekiui. Tai reiškia, kad mokslininkai stengėsi surinkti visus galimus duomenis iš interneto, todėl kyla pavojus, kad mokymo duomenyse atsidurs rasistinė, seksistinė ir kitaip įžeidžianti kalba.



AI modelis, mokomas rasistinę kalbą žiūrėti kaip įprastą, yra akivaizdžiai blogas. Tačiau mokslininkai atkreipia dėmesį į keletą subtilesnių problemų. Viena iš jų yra ta, kad kalbos pokyčiai vaidina svarbų vaidmenį socialiniuose pokyčiuose; Pavyzdžiui, judėjimai „MeToo“ ir „Black Lives Matter“ bandė sukurti naują antiseksistinį ir antirasistinį žodyną. Dirbtinio intelekto modelis, parengtas plačiose interneto srityse, nebus pritaikytas šio žodyno niuansams ir nesukurs ar interpretuos kalbos pagal šias naujas kultūros normas.

Taip pat nepavyks užfiksuoti kalbų ir normų tų šalių ir tautų, kurios turi mažesnę prieigą prie interneto, taigi ir mažesnį kalbinį pėdsaką internete. Rezultatas – dirbtinio intelekto sukurta kalba bus homogenizuota, atspindinti turtingiausių šalių ir bendruomenių praktiką.

Be to, kadangi mokymo duomenų rinkiniai yra tokie dideli, sunku juos patikrinti ir patikrinti, ar nėra šių įterptųjų paklaidų. Todėl metodologija, kuri remiasi duomenų rinkiniais, per dideliais, kad juos būtų galima dokumentuoti, iš esmės yra rizikinga, daro išvadą tyrėjai. Nors dokumentai leidžia numatyti potencialią atskaitomybę, [...] nedokumentuoti treniruočių duomenys išlaiko žalą be regreso.

Alternatyvios tyrimo išlaidos

Tyrėjai trečiąjį iššūkį apibendrina kaip netinkamai nukreiptų tyrimų riziką. Nors dauguma AI tyrinėtojų pripažįsta, kad dideli kalbų modeliai iš tikrųjų ne suprasti kalba ir yra tiesiog puikūs manipuliuojant „Big Tech“ gali užsidirbti pinigų iš modelių, kurie tiksliau manipuliuoja kalba, todėl nuolat į juos investuoja. Gebru ir jos kolegos rašo, kad šios mokslinių tyrimų pastangos sukelia alternatyvias išlaidas. Nereikia tiek daug pastangų dirbant su AI modeliais, kurie gali pasiekti supratimo arba gerų rezultatų naudojant mažesnius, kruopščiau kuruojamus duomenų rinkinius (taigi ir sunaudojant mažiau energijos).

Prasmės iliuzijos

Paskutinė didelių kalbos modelių problema, anot tyrėjų, yra ta, kad kadangi jie taip gerai mėgdžioja tikrąją žmonių kalbą, juos lengva panaudoti žmonėms apgaudinėti. Buvo keli didelio atgarsio atvejai, tokie kaip koledžo studentas kuris išplatino AI sukurtus savipagalbos ir produktyvumo patarimus tinklaraštyje, kuris išplito.

Pavojai yra akivaizdūs: AI modeliai gali būti naudojami, pavyzdžiui, dezinformacijai apie rinkimus arba COVID-19 pandemiją generuoti. Jie taip pat gali suklysti netyčia, kai naudojami mašininiam vertimui. Tyrėjai pateikia pavyzdį: 2017 m. Facebook neteisingai išverstas Palestiniečio postas, kuriame arabų kalba buvo parašyta labas rytas, o užpuolimas hebrajų kalba, dėl kurio jis buvo suimtas.

Kodėl tai svarbu

Gebru ir Benderio dokumentas turi šešis bendraautorius, iš kurių keturi yra „Google“ tyrinėtojai. Benderis paprašė neatskleisti jų vardų, nes bijojo pasekmių. (Bender, priešingai, yra profesorius: manau, kad tai pabrėžia akademinės laisvės vertę, sako ji.)

Straipsnio tikslas, sako Benderis, buvo įvertinti dabartinių natūralios kalbos apdorojimo tyrimų kraštovaizdį. Mes dirbame tokiu mastu, kad žmonės, kuriantys daiktus, iš tikrųjų negali apkabinti duomenų, sakė ji. Ir kadangi privalumai yra tokie akivaizdūs, ypač svarbu atsitraukti ir paklausti savęs, kokie galimi trūkumai? … Kaip gauti naudos iš to ir sumažinti riziką?

Savo vidiniame el. laiške Deanas, „Google“ AI vadovas, teigė, kad viena iš priežasčių, kodėl dokumentas neatitiko mūsų reikalavimų, buvo tai, kad jame buvo nepaisoma per daug svarbių tyrimų. Konkrečiai, jis teigė, kad jame nepaminėta naujesnio darbo, kaip padidinti didelių kalbų modelių energijos vartojimo efektyvumą ir sušvelninti šališkumo problemas.

Tačiau šeši bendradarbiai gavo daug įvairių stipendijų. Straipsnio citatų sąrašas su 128 nuorodomis yra nepaprastai ilgas. Tai toks darbas, kurio negali atlikti joks asmuo ar net autorių pora, sakė Benderis. Tam tikrai reikėjo šio bendradarbiavimo.

Straipsnio versija, kurią matėme, taip pat rodo keletą mokslinių tyrimų, skirtų sumažinti didelių kalbų modelių dydį ir skaičiavimo išlaidas bei įvertinti modelių įterptąjį paklaidą. Tačiau ji teigia, kad šių pastangų nepakako. Aš labai noriu pamatyti, kokias kitas nuorodas turėtume įtraukti, sakė Benderis.

Nicolas Le Roux, „Google AI“ tyrinėtojas Monrealio biure, vėliau pažymėjo „Twitter“. kad Dino elektroninio laiško samprotavimai buvo neįprasti. Jis sakė, kad mano pateikti dokumentai visada buvo tikrinami, ar neatskleidžiama jautri medžiaga, o niekada nebuvo tikrinama literatūros apžvalgos kokybė.

Dekano el. laiške taip pat rašoma, kad Gebru ir jos kolegos suteikė „Google AI“ tik vieną dieną vidinei dokumento peržiūrai, prieš pateikiant jį konferencijai publikuoti. Jis rašė, kad mūsų tikslas yra konkuruoti su recenzuojamais žurnalais griežtumu ir apgalvotumu, kaip peržiūrime tyrimus prieš paskelbiant.

Bender pažymėjo, kad net ir tokiu atveju konferencijoje vis tiek bus atliktas esminis dokumento peržiūros procesas: Stipendija visada yra pokalbis ir visada vykstantis darbas, sakė ji.

Kiti, įskaitant Williamą Fitzgeraldą, buvusį „Google“ viešųjų ryšių vadybininką, turi dar labiau kėlė abejonių Dekano reikalavimu.

„Google“ pradėjo didžiąją dalį pagrindinių tyrimų, dėl kurių pastaruoju metu išaugo didelių kalbų modeliai. „Google AI“ pirmoji išrado Transformatoriaus kalbos modelis 2017 m., kuris yra vėlesnio bendrovės modelio BERT ir OpenAI GPT-2 ir GPT-3 pagrindas. Kaip minėta pirmiau, BERT dabar taip pat veikia „Google“ paieška – bendrovės grynųjų pinigų karvė.

Benderis nerimauja, kad „Google“ veiksmai gali sukelti šiurpinantį poveikį būsimiems AI etikos tyrimams. Daugelis geriausių dirbtinio intelekto etikos ekspertų dirba didelėse technologijų įmonėse, nes čia yra pinigų. Tai buvo naudinga daugeliu atžvilgių, sako ji. Bet galiausiai gauname ekosistemą, kuri galbūt turi paskatų, kurios nėra pačios geriausios mokslo pažangai pasaulyje.

Atnaujinimas (gruodžio 7 d.): Buvo pridėta papildomos informacijos, siekiant paaiškinti didelių kalbų modelių aplinkosaugos išlaidas.

paslėpti