Lenktynės siekiant suprasti jaudinantį ir pavojingą kalbų AI pasaulį

Arielis Davisas

Gegužės 18 d. „Google“ generalinis direktorius Sundaras Pichai paskelbė apie įspūdingą naują įrankį: AI sistemą, vadinamą LaMDA, kuri gali kalbėtis su vartotojais bet kokia tema.

Pirmiausia „Google“ planuoja integruoti LaMDA į savo pagrindinį paieškos portalą, balso asistentą ir „Workplace“ – debesyje pagrįstos darbo programinės įrangos kolekciją, kurią sudaro „Gmail“, dokumentai ir diskas. Tačiau galutinis tikslas, sakė Pichai, yra sukurti pokalbio sąsają, kuri leistų žmonėms gauti bet kokios rūšies informaciją – tekstą, vaizdinę, garso – visuose „Google“ produktuose tiesiog paklausus.

LaMDA įdiegimas rodo dar vieną būdą, kuriuo kalbos technologijos įsilieja į mūsų kasdienį gyvenimą. Tačiau prašmatnus „Google“ pristatymas paneigė etines diskusijas, kurios dabar supa tokias pažangiausias sistemas. LaMDA yra tai, kas žinoma kaip didelės kalbos modelis (LLM) – gilaus mokymosi algoritmas, parengtas naudojant didžiulius tekstinių duomenų kiekius.

Tyrimai jau parodė, kaip šiuose modeliuose yra įterptos rasistinės, seksistinės ir įžeidžiančios idėjos. Jie sieja tokias kategorijas kaip gydytojai su vyrais ir slaugytojai su moterimis; geri žodžiai su baltaodžiais ir blogi žodžiai su juodaodžiais. Išbandykite juos tinkamais raginimais ir jie taip pat pradės skatinti tokius dalykus kaip genocidas , savęs žalojimas , ir seksualinė prievarta prieš vaikus . Dėl savo dydžio jie turi a šokiruojantis didelis anglies pėdsakas . Dėl savo sklandumo jie lengvai suklaidina žmones į mąstymą, žmogus parašė savo rezultatus, o ekspertai įspėja, kad tai gali sudaryti sąlygas masinei dezinformacijos gamybai.

Gruodį „Google“ išstūmė savo etišką dirbtinio intelekto lyderį Timnitą Gebru ji atsisakė atitraukti popierių tai išryškino daugelį šių dalykų. Po kelių mėnesių, plačiai pasmerkus tai, ką atvirame „Google“ darbuotojų laiške pavadino precedento neturinčia bendrovės tyrimų cenzūra, ji taip pat atleido Gebru bendraautorė ir bendraautorė Margaret Mitchell.

Šią technologiją diegia ne tik „Google“. Aukščiausio lygio kalbų modeliai iki šiol buvo OpenAI GPT-2 ir GPT-3 , kuriame išsklinda nepaprastai įtikinamos teksto ištraukos ir netgi gali būti panaudotos muzikos kūriniams ir kompiuterio kodui užbaigti. „Microsoft“ dabar išskirtinai licencijos GPT-3 įtraukti į dar nepaskelbtus produktus. „Facebook“ sukūrė savo LLM vertimui ir turinio moderavimui. O startuoliai kuria dešimtis produktų ir paslaugų pagal technologijų milžinų modelius. Netrukus visos mūsų skaitmeninės sąveikos – kai siunčiame el. laiškus, ieškome ar skelbiame socialinėje žiniasklaidoje – bus filtruojamos per LLM.

Deja, labai mažai tyrimų atliekama siekiant suprasti, kaip šios technologijos trūkumai gali turėti įtakos žmonėms, dirbantiems realiame pasaulyje, arba išsiaiškinti, kaip sukurti geresnius LLM, kurie sumažintų šiuos iššūkius. Kaip „Google“ pabrėžė vertindama Gebru ir Mitchell, kelios įmonės, pakankamai turtingos, kad galėtų parengti ir išlaikyti LLM, yra labai finansiškai suinteresuotos atsisakyti atidžiai juos tirti. Kitaip tariant, LLM vis labiau integruojami į kalbinę interneto infrastruktūrą ant netvirtų mokslo pagrindų.

Daugiau nei 500 mokslininkų visame pasaulyje dabar lenktyniauja, norėdami sužinoti daugiau apie šių modelių galimybes ir apribojimus. Dirba kartu pagal projektas „BigScience“. vadovaujami Huggingface, startuolio, kuris laikosi atviro mokslo metodo, kad suprastų natūralios kalbos apdorojimą (NLP), jie siekia sukurti atvirojo kodo LLM, kuri būtų bendras mokslo bendruomenės šaltinis. Tikslas yra sugeneruoti kuo daugiau stipendijų per vienerius metus. Pagrindinis jų klausimas: kaip ir kada turėtų būti kuriami ir diegiami LLM, kad jie gautų naudą be žalingų pasekmių?

Negalime sustabdyti šios beprotybės dėl didelių kalbos modelių, kai visi nori juos mokyti, sako Thomas Wolf, Huggingface vyriausiasis mokslo pareigūnas, vienas iš iniciatyvos vadovų. Bet ką galime padaryti, tai pabandyti tai nukreipti linkme, kuri galiausiai būtų naudingesnė.

Stochastinės papūgos

Tą patį mėnesį, kai „BigScience“ pradėjo savo veiklą, startuolis, pavadintas „Cohere“, tyliai pasišalino. Sukurta buvusių „Google“ tyrėjų, ji žada, kad LLM bus įtraukta į bet kurią įmonę, kuri to nori, naudojant vieną kodo eilutę. Ji sukūrė techniką, kaip mokyti ir priglobti savo modelį su nenaudojamais skaičiavimo ištekliais duomenų centre, o tai sumažina reikalingos vietos debesyje nuomos išlaidas priežiūrai ir diegimui.

Tarp pirmųjų klientų yra startuolis Yra palaikymas , be kodo klientų aptarnavimo pokalbių robotų kūrimo platforma, kuri pati turi tokius klientus kaip „Facebook“ ir „Zoom“. „Cohere“ investuotojų sąraše yra keletas didžiausių šios srities vardų: kompiuterinės vizijos pradininkas Fei-Fei Li, Turingo apdovanojimo laureatas Geoffrey Hintonas ir „Apple“ AI vadovas Ianas Goodfellowas.

„Cohere“ yra vienas iš kelių startuolių ir iniciatyvų, dabar siekiančių pritraukti LLM į įvairias pramonės šakas. Taip pat yra Vokietijoje įsikūręs startuolis „Aleph Alpha“, kuris siekia kurti vokiškas GPT-3 ; neįvardyta įmonė, kurią pradėjo keli buvę OpenAI tyrinėtojai; ir atvirojo kodo iniciatyva Eleuther, kuri neseniai paleistas GPT-Neo , nemokama (ir šiek tiek mažiau galinga) GPT-3 atkūrimas.

Tačiau atotrūkis tarp to, kas yra LLM ir ko jie siekia, kelia susirūpinimą vis daugiau tyrinėtojų. LLM iš tikrųjų yra galingiausios pasaulyje automatinio užbaigimo technologijos. Suvartodami milijonus sakinių, pastraipų ir net dialogo pavyzdžių, jie išmoksta statistinius modelius, kuriais vadovaujamasi, kaip kiekvienas iš šių elementų turėtų būti surenkamas protinga tvarka. Tai reiškia, kad LLM gali pagerinti tam tikrą veiklą: pavyzdžiui, jie tinka kurti interaktyvesnius ir sklandesnius pokalbių robotus. kurios vadovaujasi nusistovėjusiu scenarijumi . Tačiau jie iš tikrųjų nesupranta, ką skaito ar sako. Daugelis pažangiausių LLM galimybių šiandien taip pat prieinamos tik anglų kalba.

Susijusi istorija

Perskaitėme dokumentą, dėl kurio Timnitas Gebru buvo priverstas pasitraukti iš „Google“. Štai kas jame parašyta.

Bendrovės etikos žvaigždės tyrėjas pabrėžė didelių kalbų modelių, kurie yra labai svarbūs „Google“ verslui, riziką.

Be kita ko, apie tai Gebru, Mitchellas ir dar penki mokslininkai perspėjo savo darbe, kuriame LLM vadinamos stochastinėmis papūgomis. Kalbos technologijos gali būti labai, labai naudingos, kai jos yra tinkamai aprėptos, išdėstytos ir įrėmintos, sako Emily Bender, Vašingtono universiteto lingvistikos profesorė ir viena iš straipsnio bendraautorių. Tačiau bendrosios paskirties LLM pobūdis ir jų įtikinamumas vilioja įmones naudoti juos tose srityse, kurioms jos nebūtinai yra pasirengusios.

Neseniai vienoje didžiausių AI konferencijų kalboje Gebru šį skubotą LLM diegimą susiejo su pasekmėmis, kurias patyrė savo gyvenime. Gebru gimė ir užaugo Etiopijoje, kur eskaluojantis karas nusiaubė šiauriausią Tigray regioną. Etiopija taip pat yra šalis, kurioje kalbama 86 kalbomis, iš kurių beveik visos nėra įtrauktos į pagrindines kalbų technologijas.

Nepaisant to, kad LLM turi šių kalbinių trūkumų, „Facebook“ jais labai priklauso, kad visame pasaulyje būtų automatizuotas turinio valdymas. Kai lapkritį pirmą kartą prasidėjo karas Tigray mieste, Gebru pamatė, kad platforma plevėsuoja, kad susitvarkytų su dezinformacijos antplūdžiu. Tai yra nuolatinio modelio, kurį tyrinėtojai pastebėjo saikingai turinio atžvilgiu, simbolis. Bendruomenės, kurios kalbėti kalbomis Silicio slėnis neteikia pirmenybės, kenčia priešiškiausios skaitmeninės aplinkos.

Gebru pažymėjo, kad žala taip pat nesibaigia. Kai netikros naujienos, neapykantą kurstančios kalbos ir net grasinimai mirtimi nėra suvaldomi, jie iškraunami kaip mokymo duomenys kuriant naujos kartos LLM. Ir tie modeliai, atsigręžę į tai, ko jie mokomi, galiausiai atgaivina šiuos toksiškus kalbinius modelius internete.

Daugeliu atvejų mokslininkai nepakankamai nuodugniai ištyrė, kad žinotų, kaip šis toksiškumas gali pasireikšti tolesnėse programose. Tačiau tam tikra stipendija egzistuoja. Savo knygoje 2018 m Priespaudos algoritmai , Kalifornijos universiteto Los Andžele informacijos ir afroamerikiečių studijų docentė Safiya Noble dokumentavo, kaip „Google“ paieškoje įterptas šališkumas išlaiko rasizmą ir, kraštutiniais atvejais, galbūt netgi skatina rasinį smurtą.

Pasekmės yra gana sunkios ir reikšmingos, sako ji. „Google“ nėra tik pagrindinis žinių portalas paprastiems piliečiams. Ji taip pat suteikia informacijos infrastruktūrą institucijoms, universitetams ir valstijų bei federalinėms vyriausybėms.

„Google“ jau naudoja LLM, kad optimizuotų kai kuriuos savo paieškos rezultatus. Su naujausiu pranešimu apie LaMDA ir neseniai pateiktas pasiūlymas Jis buvo paskelbtas iš anksto spausdintame dokumente, bendrovė aiškiai pasakė, kad ji tik padidins savo priklausomybę nuo šios technologijos. Kilnus susirūpinimas dėl to gali dar labiau pabloginti jos atskleistas problemas: tai, kad Google etiška AI komanda buvo atleista už tai, kad iškėlė labai svarbius klausimus apie rasistinius ir seksistinius diskriminacijos modelius, įterptus į didelius kalbos modelius, turėjo būti pažadinimo skambutis.

BigScience

BigScience projektas prasidėjo tiesiogiai reaguojant į didėjantį LLM mokslinės priežiūros poreikį. Stebėdami greitą technologijos plitimą ir „Google“ bandymą cenzūruoti Gebru ir Mitchellą, Wolfas ir keli kolegos suprato, kad atėjo laikas mokslinių tyrimų bendruomenei imtis veiksmų į savo rankas.

Įkvėpti atviro mokslinio bendradarbiavimo, pvz., CERN dalelių fizikos srityje, jie sumanė idėją sukurti atvirojo kodo LLM, kurią būtų galima panaudoti atliekant svarbius tyrimus nepriklausomai nuo bet kurios įmonės. Šių metų balandį grupė gavo dotaciją sukurti jį naudojant Prancūzijos vyriausybės superkompiuterį.

Technologijų įmonėse LLM dažnai kuria tik pusšimtis žmonių, kurie pirmiausia turi techninių žinių. „BigScience“ norėjo pakviesti šimtus mokslininkų iš įvairių šalių ir disciplinų, kad jie dalyvautų tikrai bendrame modelių kūrimo procese. Vilkas, kuris yra prancūzas, pirmiausia kreipėsi į prancūzų NLP bendruomenę. Iš ten iniciatyva peraugo į pasaulinę operaciją, apimančią daugiau nei 500 žmonių.

Bendradarbiavimas dabar laisvai suskirstytas į keliolika darbo grupių, kurių kiekviena sprendžia skirtingus modelio kūrimo ir tyrimo aspektus. Viena grupė įvertins modelio poveikį aplinkai, įskaitant anglies pėdsaką, susijusį su mokymu ir LLM vykdymu, ir į superkompiuterio gyvavimo ciklo sąnaudas. Kitas dėmesys bus skiriamas atsakingų mokymo duomenų gavimo būdų kūrimui – ieškoma alternatyvų tiesiog duomenų rinkimui iš žiniatinklio, pavyzdžiui, istorinių radijo archyvų ar podcast'ų perrašymas. Tikslas yra išvengti toksiškos kalbos ir nesąmoningo privačios informacijos rinkimo.

Susijusi istorija

Kodėl GPT-3 šiuo metu yra geriausias ir prasčiausias dirbtinis intelektas

Atviroji dirbtinio intelekto kalba AI sužavėjo visuomenę akivaizdžiai mokėdamas anglų kalbą – bet ar visa tai iliuzija?

Kitos darbo grupės yra skirtos modelio daugiakalbiškumui plėtoti ir vertinti. Norėdami pradėti, „BigScience“ pasirinko aštuonias kalbas arba kalbų grupes, įskaitant anglų, kinų, arabų, indų (įskaitant hindi ir urdu) ir bantu (įskaitant suahilių) kalbas. Planas yra glaudžiai bendradarbiauti su kiekviena kalbų bendruomene, siekiant nustatyti kuo daugiau regioninių tarmių ir užtikrinti, kad būtų laikomasi atskirų duomenų privatumo normų. Norime, kad žmonės galėtų pasakyti, kaip naudojami jų duomenys, sako Yacine Jernite, Huggingface tyrinėtoja.

Tikslas yra ne sukurti komerciškai perspektyvų LLM, kuris konkuruotų su tokiais kaip GPT-3 ar LaMDA. Modelis bus per didelis ir per lėtas, kad būtų naudingas įmonėms, sako Karën Fort, Sorbonos docentas. Vietoj to, ištekliai yra skirti tik moksliniams tyrimams. Kiekvienas duomenų taškas ir kiekvienas modeliavimo sprendimas yra kruopščiai ir viešai dokumentuojami, todėl lengviau analizuoti, kaip visos dalys veikia modelio rezultatus. Tai ne tik galutinio produkto pristatymas, sako Angela Fan, Facebook tyrėja. Mes įsivaizduojame kiekvieną jo gabalėlį kaip pristatymo tašką, kaip artefaktą.

Projektas neabejotinai yra ambicingas – pasauliniu mastu platesnis ir labiau bendradarbiaujantis nei bet kuri AI bendruomenė anksčiau. Daugelio mokslininkų koordinavimo logistika pati savaime yra iššūkis. (Tiesą sakant, tam yra ir darbo grupė.) Be to, kiekvienas tyrėjas prisideda savanoriškai. Prancūzijos vyriausybės dotacija apima tik skaičiavimo, o ne žmogiškuosius išteklius.

Tačiau mokslininkai teigia, kad bendras poreikis, kuris subūrė bendruomenę, paskatino įspūdingą energijos ir pagreitį. Daugelis nusiteikę optimistiškai, kad iki kitų metų gegužės mėnesio vyksiančio projekto pabaigos jie turės ne tik daugiau žinių apie LLM apribojimus, bet ir geresnius įrankius bei praktiką, kaip atsakingai juos kurti ir diegti.

Organizatoriai tikisi, kad tai paskatins daugiau pramonės žmonių įtraukti šią praktiką į savo LLM strategiją, nors jie pirmieji pripažįsta, kad yra idealistai. Jei kas, didžiulis dalyvaujančių tyrėjų skaičius, įskaitant daugelį technologijų gigantų, padės nustatyti naujas NLP bendruomenės normas.

Kai kuriais atžvilgiais normos jau pasikeitė. Reaguodama į pokalbius apie Gebru ir Mitchell atleidimą, Cohere iš kelių savo klientų išgirdo, kad jie nerimauja dėl technologijos saugumo. Jo svetainėje yra puslapis, kuriame įsipareigojama nuolat investuoti į techninius ir netechninius tyrimus, siekiant sumažinti galimą modelio žalą. Ji taip pat teigia, kad ji taip pat suburs patariamąją tarybą, sudarytą iš išorės ekspertų, kad padėtų jai sukurti leistino technologijų naudojimo politiką.

NLP yra labai svarbiame lūžio taške, sako Fortas. Štai kodėl „BigScience“ yra įdomus. Tai leidžia bendruomenei pastūmėti mokslinius tyrimus į priekį ir suteikti viltingą alternatyvą pramonės status quo: sakoma: „Paimkime dar vieną leidimą“. Imkime tai kartu – išsiaiškinkime visus būdus ir viską, ką galime padaryti, kad padėtume visuomenei.

Ji sako, kad noriu, kad NLP padėtų žmonėms, o ne jų nuviltų.

Atnaujinimas: Išaiškintos „Cohere“ atsakomybės iniciatyvos.

paslėpti