Kongresas nori gauti atsakymus iš „Google“ apie Timnito Gebru atleidimą

Yvette Clarke

Atstovė Yvette Clarke AP nuotrauka / Kathy Willens





Devyni JAV Kongreso nariai išsiuntė laišką „Google“, prašydami išsiaiškinti aplinkybes, susijusias su buvusio etinio dirbtinio intelekto vadovo Timnit Gebru priverstiniu išvykimu. Vadovaujama atstovės Yvette Clarke ir senatoriaus Rono Wydeno, o kartu pasirašė senatoriai Elizabeth Warren ir Cory Booker. laiškas siunčia svarbų signalą apie tai, kaip Kongresas atidžiai tiria technologijų milžinus ir galvoja apie būsimą reguliavimą.

Gebru, AI etikos lyderis ir viena iš nedaugelio juodaodžių moterų „Google“, buvo be ceremonijų atleistas prieš dvi savaites, po užsitęsusių nesutarimų dėl mokslinio darbo. Popierius detalizavo didelių AI kalbų modelių riziką apmokytas didžiulis tekstinių duomenų kiekis, kuris yra pagrindinė „Google“ tyrimų kryptis, tiekianti įvairius produktus, įskaitant pelningą „Google“ paiešką.



Cituojant MIT technologijų apžvalgos aprėptį, laiške keliami trys klausimai: didelių kalbų modelių šališkumo galimybė, didėjanti įmonių įtaka dirbtinio intelekto tyrimams ir „Google“ įvairovės trūkumas. Ji prašo „Google“ generalinio direktoriaus Sundaro Pichai pateikti konkretų planą, kaip ji spręs kiekvieną iš šių klausimų, taip pat dabartinės politikos dėl tyrimų peržiūros ir išsamios informacijos apie vykdomą Gebru pasitraukimo tyrimą (Pichai įsipareigojo atlikti šį tyrimą vidinis atmintinė , pirmą kartą paskelbė Axios). Kadangi Kongreso nariai aktyviai siekia stiprinti AI tyrimus, atskaitomybę ir įvairovę per teisės aktus ir priežiūrą, pagarbiai prašome jūsų prašymo pateikti toliau nurodytus klausimus, teigiama laiške.

2019 m. balandžio mėn. Clarke'as ir Wydenas pristatė įstatymo projektą Algoritminės atskaitomybės įstatymas , todėl didelės įmonės turėtų patikrinti savo mašininio mokymosi sistemų šališkumą ir laiku imtis taisomųjų veiksmų, jei tokios problemos būtų nustatytos. Taip pat būtų reikalaujama, kad šios įmonės atliktų visų procesų, susijusių su neskelbtinais duomenimis, įskaitant asmens tapatybę identifikuojančią, biometrinę ir genetinę informaciją, auditą dėl privatumo ir saugumo rizikos. Tuo metu daugelis teisės ir technologijų ekspertų gyrė įstatymo projektą dėl niuansų supratimo apie dirbtinį intelektą ir duomenimis pagrįstas technologijas. Puikus pirmas žingsnis, rašė Andrew Selbstas, Kalifornijos universiteto Los Andželo teisės mokyklos docentas, socialiniame tinkle „Twitter“. Reikės dokumentų, įvertinimo ir bandymų spręsti numatytą poveikį. Tai nauja, įdomi ir nepaprastai reikalinga.

Susijusi istorija

Perskaitėme dokumentą, dėl kurio Timnitas Gebru buvo priverstas pasitraukti iš „Google“. Štai kas jame parašyta.

Bendrovės etikos žvaigždės tyrėjas pabrėžė didelių kalbų modelių, kurie yra labai svarbūs „Google“ verslui, riziką.



Naujausias laiškas nėra tiesiogiai susijęs su Algoritminės atskaitomybės įstatymu, tačiau tai yra dalis to paties kai kurių Kongreso narių žingsnio rengiant teisės aktus, kurie sumažintų DI šališkumą ir kitą duomenimis pagrįstų automatizuotų sistemų žalą. Pažymėtina, kad tai kyla dėl stiprėjančio antimonopolinio reguliavimo spaudimo. Anksčiau šį mėnesį JAV Federalinė prekybos komisija padavė antimonopolinį ieškinį prieš Facebook už antikonkurencinį elgesį ir nesąžiningus konkurencijos metodus. Vasarą Atstovų Rūmų demokratai paskelbė 449 puslapių ataskaitą apie Big Tech monopolinę praktiką.

Laiškas taip pat pateikiamas didėjančios geopolitinės įtampos kontekste. JAV ir Kinijos santykiams pandemijos metu pasiekus visų laikų žemumą, JAV pareigūnai pabrėžė strateginę naujų technologijų, tokių kaip AI ir 5G, svarbą. Laiške taip pat iškeliamas šis aspektas, pripažįstant „Google“ pirmavimą dirbtinio intelekto srityje ir jos vaidmenį išlaikant JAV lyderystę. Tačiau tai aiškiai parodo, kad tai neturėtų sumažinti reguliavimo veiksmų, o tai yra argumentų linija išpopuliarino „Facebook“ vadovas Markas Zuckerbergas . Siekdamos užtikrinti, kad Amerika laimėtų dirbtinio intelekto lenktynes, rašoma laiške, Amerikos technologijų įmonės turi ne tik pirmauti pasaulyje inovacijų srityje; jie taip pat turi užtikrinti, kad tokios naujovės atspindėtų mūsų tautos vertybes.

Mūsų laiškas turėtų atkreipti dėmesį į visus technologijų sektoriaus atstovus, ne tik „Google“, kad atkreipiame dėmesį, sakė Clarke'as pranešime MIT Technology Review. Etiškas dirbtinis intelektas yra kovos laukas dėl pilietinių teisių ateities. Mūsų susirūpinimas dėl naujausių įvykių yra ne tik vienas asmuo; jie yra apie tai, kaip atrodys 21-asis amžius, jei akademinė laisvė ir įtraukimas atsidurs nuo kitų prioritetų. Negalime sušvelninti algoritminio šališkumo, jei trukdome tiems, kurie siekia tai tirti ir studijuoti.



paslėpti