Penki būdai, kaip dirbtinį intelektą paversti didesne jėga 2021 m

Prie metalinio svarelio pririšamas balionas. Žirklės pjauna virvelę, kuri ją pritvirtina. Getty

Prieš metus nė vienas nebuvo išmintingas, ką atneš 2020-ieji, aš atsispindėjo lemiamu momentu, kurį išgyveno AI bendruomenė. Praėjusiais, 2018 m., buvo užfiksuota daugybė didelio atgarsio automatizuotų gedimų, pvz., savarankiškai važiuojančių automobilių avarijos ir diskriminacinės įdarbinimo priemonės . 2019 m. šioje srityje buvo daugiau nei bet kada anksčiau kalbama apie AI etiką. Bet kalbų, pasakiau, neužteko. Turėjome imtis apčiuopiamų veiksmų. Po dviejų mėnesių koronavirusas uždarė pasaulį.

Mūsų naujoje socialiai nutolusioje, nutolusioje visko tikrovėje šie pokalbiai apie algoritminę žalą staiga išsisėmė. Sistemos, kurios buvo pakraštyje, pvz „HireVue“ veido nuskaitymo algoritmai ir darbo vietos stebėjimo įrankiai , buvo įprastos. Kiti, mėgsta įrankius stebėti ir vertinti mokinius , sukasi realiu laiku. Rugpjūčio mėn., po įspūdinga nesėkmė Jungtinės Karalystės vyriausybei, kad asmeninius egzaminus pakeistų stojimo į universitetus algoritmu, šimtai studentų susirinko Londone skanduoti „Fuck the algorithm“. Tai tampa 2020 m. kovos šauksmu, „Twitter“ paskelbė AI atskaitomybės tyrinėtojas Debas Raji, kai Stanfordo protestuotojas vėl sušuko atsakydamas į kitokia nesėkmė po kelių mėnesių.

Tuo pačiu metu buvo tikrai daugiau veiksmo. Per vieną didelę pergalę „Amazon“, „Microsoft“ ir IBM uždraudė arba sustabdė veido atpažinimo pardavimą teisėsaugai, po to, kai George'o Floydo nužudymas paskatino pasaulinius protestus prieš policijos brutalumą. Tai buvo kulminacija dvejus metus trukusios kovos tyrėjai ir pilietinių teisių aktyvistai, norėdami parodyti neveiksmingą ir diskriminacinį įmonių technologijų poveikį. Kitas pokytis buvo nedidelis, bet pastebimas: pirmą kartą NeurIPS, viena ryškiausių DI tyrimų konferencijų, reikalavo, kad mokslininkai pateikti etikos pareiškimą su savo popieriais.

Taigi štai 2021 m. pradžioje visuomenė ir reguliavimo institucijos daugiau dėmesio skiria AI įtakai nei bet kada anksčiau. Mano Naujųjų metų pažadas: paverskime tai suskaičiuota. Štai penkios viltys, kurias ateinančiais metais turiu dėl AI.

Sumažinti įmonių įtaką tyrimams

Technologijų milžinai neproporcingai kontroliuoja AI tyrimų kryptį. Tai pakeitė visos srities kryptį link vis didesnių duomenų ir didelių modelių, o tai turėjo keletą pasekmių. Tai padidina dirbtinio intelekto pažangos poveikį klimatui, neleidžia išteklius turinčioms laboratorijoms dalyvauti šioje srityje ir sukelia tingesnius mokslinius tyrimus, ignoruojant daugybę kitų galimų metodų. Kaip Google atskleidė Timnit Gebru nuvertimas , technologijų gigantai lengvai apribos galimybę tirti ir kitas pasekmes.

Tačiau didelę įmonių įtaką lemia pinigai ir alternatyvaus finansavimo trūkumas. Kaip rašiau pernai mano OpenAI profilis , laboratorija iš pradžių siekė pasikliauti tik nepriklausomais, turtingais donorais. Lažybos pasirodė netvarios, o po ketverių metų OpenAI pasirašė investicijų sutartį su „Microsoft“. Tikiuosi, kad daugiau vyriausybių įžengs į šią tuštumą, kad suteiktų su gynyba nesusijusio finansavimo galimybes tyrėjams. Tai nebus tobulas sprendimas, bet tai bus pradžia. Vyriausybės priklauso visuomenei, o ne žemesnei linijai.

Susikoncentruokite į sveiko proto supratimą

Didžiulis dėmesys didesniems ir blogesniems modeliams užgožė vieną iš pagrindinių DI tyrimų tikslų: sukurti protingas mašinas kurios ne tik atitinka modelius, bet ir iš tikrųjų supranta prasmę. Nors įmonių įtaka labai prisideda prie šios tendencijos, yra ir kitų kaltininkų. Mokslinių tyrimų konferencijose ir recenzuojamuose leidiniuose didelis dėmesys skiriamas naujausių rezultatų pasiekimui. Tačiau dabartinė technika yra tokia dažnai prastai išmatuojamas testais kurią galima įveikti naudojant daugiau duomenų ir didesnių modelių.

Susijusi istorija

Perskaitėme dokumentą, dėl kurio Timnitas Gebru buvo priverstas pasitraukti iš „Google“. Štai kas jame parašyta.

Bendrovės etikos žvaigždės tyrėjas pabrėžė didelių kalbų modelių, kurie yra labai svarbūs „Google“ verslui, riziką.

Nėra taip, kad didelio masto modeliai niekada negalėtų pasiekti sveiko proto supratimo. Tai vis dar atviras klausimas. Tačiau yra ir kitų mokslinių tyrimų būdų, kurie nusipelno didesnių investicijų. Kai kurie ekspertai padarė savo statymus neurosimbolinis AI , kuriame gilus mokymasis derinamas su simbolinėmis žinių sistemomis. Kiti eksperimentuoja labiau tikimybiniai metodai kurie naudoja daug mažiau duomenų, įkvėpti žmogaus vaiko gebėjimo mokytis iš nedaugelio pavyzdžių.

Tikiuosi, kad 2021 m. ši sritis iš naujo suderins savo paskatas pirmenybę teikti supratimui, o ne numatymui. Tai ne tik galėtų lemti techniškai tvirtesnes sistemas, bet ir patobulinimai turės didelių socialinių pasekmių. Pavyzdžiui, dabartinių giluminio mokymosi sistemų jautrumas būti apgautiems kenkia savarankiškai važiuojantys automobiliai ir kelia pavojingų galimybių autonominiai ginklai . Sistemų nesugebėjimas atskirti koreliacijos ir priežastinio ryšio taip pat yra priežastis algoritminė diskriminacija .

Įgalinti marginalizuotiems tyrėjams

Jei algoritmai kodifikuoja jų kūrėjų vertybes ir perspektyvas, juos kuriant prie stalo turėtų būti platus žmonių skerspjūvis. Nemačiau geresnio to įrodymo nei 2019 m. gruodį, kai lankiausi NeurIPS. Tais metais, kai kalbėjo rekordinis moterų ir mažumų atstovų bei dalyvių skaičius, galėjau pajusti proceso eigą. apčiuopiamai pasikeisti . Buvo daugiau nei bet kada anksčiau diskutuojama apie AI įtaką visuomenei.

Tuo metu aš gyriau bendruomenę už jos pažangą. Bet „Google“ elgesys su Gebru , viena iš nedaugelio iškilių juodaodžių moterų pramonėje, parodė, kiek toli dar reikia nuveikti. Skaičių įvairovė yra beprasmė, jei tie asmenys neturi teisės į savo darbą įtraukti savo išgyventos patirties. Vis dėlto esu optimistiškai nusiteikęs, kad banga keičiasi. Gebru šaudymo pažymėtas pliūpsnio taškas tapo svarbiu apmąstymų momentu pramonei. Tikiuosi, kad šis postūmis paskatins ilgalaikius, sisteminius pokyčius.

Sutelkite į paveiktų bendruomenių perspektyvas

Taip pat yra dar viena grupė, kurią reikia atsinešti prie stalo. Viena įdomiausių praėjusių metų tendencijų buvo atsiradimas dalyvaujamasis mašininis mokymasis . Tai provokacija iš naujo išrasti AI kūrimo procesą, įtraukiant tuos, kuriems galiausiai taikomi algoritmai.

Liepos mėnesį, pirmasis konferencijos seminaras skirta šiam požiūriui, surinko įvairiausių idėjų, kaip tai galėtų atrodyti. Pasiūlymai apėmė naujas valdymo procedūras, skirtas bendruomenės atsiliepimų gavimui; nauji visuomenės informavimo ir įtraukimo modelio audito metodai; ir pasiūlė perdaryti AI sistemas, kad vartotojai galėtų geriau valdyti savo nustatymus.

Tikiuosi, kad 2021 m. daugiau šių idėjų bus išnagrinėta ir rimtai priimta. „Facebook“ jau pradeda veiklą: jei ji leis išorinei priežiūros tarybai atlikti privalomus platformos turinio moderavimo politikos pakeitimus, valdymo struktūra gali tapti grįžtamojo ryšio mechanizmu, kurį verta pamėgdžioti.

Kodifikuokite apsauginius turėklus į reglamentą

Iki šiol paprastų žmonių pastangos paskatino judėjimą sumažinti algoritminę žalą ir priversti technologijų milžinus atsakyti. Tačiau nacionalinės ir tarptautinės reguliavimo institucijos turės sukurti nuolatinius apsauginius turėklus. Geros naujienos yra tai, kad įstatymų leidėjai visame pasaulyje stebėjo ir rengia teisės aktus. JAV Kongreso nariai jau padarė pristatė sąskaitos, skirtos veido atpažinimui, AI šališkumui ir gilioms klastotėms. Keletas jų taip pat atsiuntė laišką gruodžio mėn. „Google“, išreikšdami savo ketinimą ir toliau laikytis šio reglamento.

Taigi mano paskutinė viltis 2021 m. yra ta, kad kai kurie iš šių įstatymų bus priimti. Atėjo laikas kodifikuoti tai, ko išmokome per pastaruosius kelerius metus, ir atsiriboti nuo savireguliacijos prasmės.

paslėpti