AI mokosi kurti save

Žmonės stengėsi sukurti tikrai protingas mašinas. Galbūt turime leisti jiems patiems susitvarkyti.

Shuhua Xiong

pateikė

• Will Douglas Heaven archyvo puslapis

2021 m. gegužės 27 d

Maža lazdelės figūrėlė su pleišto formos galva maišosi per ekraną. Jis juda pusiau pritūpęs, tempdamas vieną kelį žeme. Tai vaikšto! Ech, savotiškai.

Tačiau Rui Wang džiaugiasi. Kiekvieną dieną įeinu į savo biurą ir atsidarau kompiuterį ir nežinau, ko tikėtis, sako jis.

Dirbtinio intelekto tyrinėtojas iš Uber Wang mėgsta palikti Suporuotas atviras „Trailblazer“. , programinė įranga, kurią jis padėjo sukurti, per naktį veikia jo nešiojamajame kompiuteryje. POET yra tam tikras virtualių robotų mokymo dojo. Kol kas jie nelabai mokosi daryti. Šie AI agentai nėra žaidžia Go , pastebėti vėžio požymius , arba sulankstomi baltymai - jie bando naršyti neapvirtusią animacinio filmo kraštovaizdį su tvoromis ir daubomis.

Tačiau įdomu ne tai, ką robotai mokosi, o tai, kaip jie mokosi. POET sukuria kliūčių ruožus, įvertina robotų gebėjimus ir skiria kitą iššūkį be žmogaus įsikišimo. Žingsnis po žingsnio, robotai tobulėja per bandymus ir klaidas. Tam tikru momentu jis gali peršokti per uolą kaip kung fu meistras, sako Wang.

Šiuo metu tai gali atrodyti paprasta, tačiau Wangui ir saujelei kitų tyrinėtojų POET užsimena apie naują revoliucinį būdą sukurti itin išmanias mašinas: priversti dirbtinį intelektą susikurti pačiam.

Buvęs Wang kolega Jeffas Clune'as yra vienas didžiausių šios idėjos puoselėtojų. Clune'as prie jo dirbo daugelį metų, iš pradžių Vajomingo universitete, o paskui Uber AI Labs, kur dirbo su Wang ir kitais. Dabar savo laiką dalijantis tarp Britų Kolumbijos universiteto ir OpenAI, jį remia viena geriausių dirbtinio intelekto laboratorijų pasaulyje .

Clune'as bandymą sukurti tikrai protingą dirbtinį intelektą vadina ambicingiausiu moksliniu ieškojimu žmonijos istorijoje. Šiandien, praėjus septyniems dešimtmečiams po to, kai prasidėjo rimtos dirbtinio intelekto pastangos, mes vis dar esame toli nuo mašinų, kurios būtų beveik tokios pat protingos kaip žmonės, o ką jau kalbėti apie protingesnes, kūrimo. Clune'as mano, kad POETAS gali nurodyti nuorodą.

Turime nusiimti pančius ir pasitraukti iš savo kelio, sako jis.

Jei Clune'as teisus, naudojant AI kuriant AI gali būti svarbus žingsnis kelyje, į kurį vieną dieną nuves dirbtinis bendras intelektas (AGI) – mašinos, galinčios pralenkti žmones. Artimiausiu metu ši technika taip pat gali padėti mums atrasti įvairių rūšių intelektą: nežmogiškus išmaniuosius, kurie gali rasti sprendimus netikėtais būdais ir galbūt papildyti mūsų pačių intelektą, o ne jį pakeisti.

Imituoja evoliuciją

Pirmą kartą kalbėjausi su Clune apie idėją praėjusių metų pradžioje, praėjus vos kelioms savaitėms po jo persikėlimo į OpenAI. Jis mielai aptarinėjo ankstesnį darbą, bet liko nekalbus apie tai, ką daro su savo nauja komanda. Užuot priėmęs skambutį viduje, jis mieliau vaikščiojo aukštyn ir žemyn gatvėmis už biurų, kol mes kalbėjomės.

Clune'as pasakytų tik tai, kad OpenAI tiko. Mano idėja labai sutampa su daugeliu dalykų, kuriais jie tiki, sako jis. Tai buvo savotiška santuoka, sudaryta danguje. Jiems patiko ši vizija ir jie norėjo, kad atvažiuočiau čia ir jos siekčiau. Praėjus keliems mėnesiams po Clune'o prisijungimo, OpenAI pasamdė ir didžiąją dalį savo senosios Uber komandos.

Ambicinga Clune vizija paremta ne tik OpenAI investicijomis. Dirbtinio intelekto istorija kupina pavyzdžių, kai žmogaus sukurti sprendimai užleido vietą mašininiams mokomiems. Paimkime kompiuterinę viziją: prieš dešimtmetį didelis proveržis vaizdo atpažinimo srityje įvyko, kai esamos rankomis sukurtos sistemos buvo pakeistos tomis, kurios mokėsi nuo nulio. Tas pats pasakytina apie daugelį AI sėkmės.

Vienas iš įdomiausių dalykų, susijusių su AI, o ypač mašininiu mokymusi, yra jo gebėjimas rasti sprendimai, kurių žmonės nerado – nustebinti mus. Dažnai minimas pavyzdys yra AlphaGo (ir jo įpėdinis AlphaZero), kuris senoviniame, viliojančiame žaidime „Go“ įveikė geriausią žmonijos pasiūlymą, naudodamas iš pažiūros svetimas strategijas. Po šimtų metų žmonių meistrų tyrimų AI rado sprendimus, apie kuriuos niekas niekada negalvojo.

Clune dabar dirba su OpenAI komanda, kuri sukūrė robotai, išmokę žaisti slėpynių virtualioje aplinkoje 2018 m. Šios AI prasidėjo nuo paprastų tikslų ir paprastų įrankių jiems pasiekti: viena pora turėjo rasti kitą, kuri galėtų pasislėpti už kilnojamų kliūčių. Tačiau kai šie robotai buvo paleisti mokytis, jie greitai rado būdų, kaip pasinaudoti savo aplinka taip, kaip mokslininkai nebuvo numatę. Jie išnaudojo savo virtualaus pasaulio modeliuojamos fizikos trikdžius, kad peršoktų sienas ir net peržengtų jas.

Toks netikėtas elgesys suteikia viliojančių užuominų, kad dirbtinis intelektas gali rasti techninių sprendimų, apie kuriuos žmonės patys nepagalvotų, išradę naujus ir efektyvesnius algoritmų ar neuroninių tinklų tipus arba net visiškai atsisakydami neuroninių tinklų, kurie yra kertinis šiuolaikinio AI akmuo.

Clune'as mėgsta priminti žmonėms, kad intelektas jau atsirado iš paprastos pradžios. Įdomiausias šis metodas yra tai, kad žinome, kad jis gali veikti, sako jis. Labai paprastas Darvino evoliucijos algoritmas sukūrė jūsų smegenis, o jūsų smegenys yra pats protingiausias mokymosi algoritmas visatoje, kokį iki šiol žinome. Jo esmė ta, kad jei intelektas, kaip mes jį žinome, atsirado dėl nesuskaičiuojamų kartų beprotiškos genų mutacijos, kodėl gi nesiekus atkartoti intelekto gamybos proceso, kuris, be abejo, yra paprastesnis, o ne patį intelektą?

Susijusi istorija

Bendrasis dirbtinis intelektas: ar esame artimi ir ar net prasminga bandyti?

Mašina, galinti mąstyti kaip žmogus, nuo seniausių laikų buvo pagrindinė AI tyrimų vizija ir tebėra labiausiai skaldanti idėja.

Tačiau čia yra dar vienas esminis pastebėjimas. Intelektas niekada nebuvo evoliucijos galutinis taškas, ko reikia siekti. Vietoj to, jis atsirado įvairiomis formomis – nuo ​​daugybės mažų sprendimų iki iššūkių, kurie leido gyviems daiktams išgyventi ir priimti ateities iššūkius. Intelektas yra šiuo metu vykstančio ir neriboto proceso aukščiausias taškas. Šia prasme evoliucija visiškai skiriasi nuo algoritmų, kuriuos žmonės paprastai galvoja apie juos – kaip priemonę tikslui pasiekti.

Clune'as ir kiti mano, kad būtent šis atvirumas, įžvelgtas akivaizdžiai betikslios POET sukurtų iššūkių sekoje, gali paskatinti naujų AI rūšių atsiradimą. Dešimtmečius dirbtinio intelekto tyrėjai bandė kurti algoritmus, imituojančius žmogaus intelektą, tačiau tikrasis proveržis gali įvykti kuriant algoritmus, kurie bando imituoti atvirą evoliucijos problemų sprendimą, ir sėdint žiūrėti, kas iškyla.

Tyrėjai jau naudoja mašininį mokymąsi, mokydami jį rasti sprendimus kai kurioms sunkiausioms šios srities problemoms, pavyzdžiui, kaip sukurti mašinas, kurios vienu metu galėtų išmokti daugiau nei vieną užduotį arba susidoroti su situacijomis, su kuriomis anksčiau nebuvo susidūrę. Kai kurie dabar mano, kad toks požiūris ir jo vykdymas gali būti geriausias kelias į dirbtinį bendrą intelektą. Galėtume pradėti algoritmą, kuris iš pradžių neturi daug intelekto, ir stebėti, kaip jis paleidžiamas iki pat AGI, sako Clune'as.

Tiesa ta, kad kol kas AGI tebėra fantazija. Bet taip yra daugiausia todėl, kad niekas nežino, kaip tai padaryti. Dirbtinio intelekto pažanga yra dalinė ir atliekama žmonių, o pažanga paprastai apima esamų technikų ar algoritmų patobulinimus, duodančius laipsniškus našumo ar tikslumo šuolius. Clune'as šias pastangas apibūdina kaip bandymus atrasti dirbtinio intelekto blokus, nežinant, ko ieškote ir kiek blokų jums reikės. Ir tai tik pradžia. Kažkuriuo metu mes turime imtis heraklio užduoties sujungti juos visus, sako jis.

Prašymas dirbtinio intelekto surasti ir surinkti mums tuos blokus yra paradigmos pokytis. Sakoma, kad norime sukurti išmanią mašiną, bet mums nesvarbu, kaip ji gali atrodyti – tiesiog duokite mums tai, kas veikia.

Net jei AGI niekada nepasiekiamas, savarankiško mokymosi metodas vis tiek gali pakeisti kuriamos AI rūšys. Pasauliui reikia daugiau nei labai gero „Go“ žaidėjo, sako Clune'as. Sukurti superišmanią mašiną jam reiškia sukurti sistemą, kuri sugalvoja savo iššūkius, juos išsprendžia, o paskui sugalvoja naujus. POETAS – tai mažytis žvilgsnis į tai. Clune'as įsivaizduoja mašiną, kuri moko botą vaikščioti, tada žaisti „hopscotch“, tada galbūt žaisti „Go“. Tada galbūt jis išmoksta matematikos galvosūkių ir pradeda sugalvoti savo iššūkius, sako jis. Sistema nuolat diegia naujoves, o dangus yra riba, kur ji gali eiti.

Galbūt tai laukinė spekuliacija, tačiau viena viltis yra ta, kad tokios mašinos gali išvengti mūsų konceptualių aklavietės, padėsiančios mums įveikti nepaprastai sudėtingas krizes, tokias kaip klimato kaita ar pasaulinė sveikata.

Bet pirmiausia turime padaryti vieną.

Kaip sukurti smegenis

Yra daug skirtingų būdų, kaip sujungti dirbtines smegenis.

Neuroniniai tinklai yra sukurti iš kelių dirbtinių neuronų sluoksnių, užkoduotų programinėje įrangoje. Kiekvienas neuronas gali būti prijungtas prie kitų aukščiau esančiuose sluoksniuose. Neuroninio tinklo prijungimo būdas labai skiriasi, o naujos architektūros dažnai lemia naujus proveržius.

Žmonių mokslininkų užkoduoti neuroniniai tinklai dažnai yra bandymų ir klaidų rezultatas. Yra mažai teorijos apie tai, kas veikia ir kas neveikia, ir nėra garantijos, kad buvo rasti geriausi dizainai. Štai kodėl geresnių neuroninių tinklų projektų paieškos automatizavimas buvo viena karščiausių AI temų bent jau nuo devintojo dešimtmečio. Dažniausias būdas automatizuoti procesą yra leisti dirbtiniam intelektui sugeneruoti daugybę galimų tinklo projektų, o tinklui automatiškai išbandyti kiekvieną iš jų ir pasirinkti geriausius. Tai paprastai žinoma kaip neuro-evoliucija arba neuroninės architektūros paieška (NAS).

Per pastaruosius kelerius metus šios mašinų konstrukcijos pradėjo pranokti žmonių konstrukcijas. 2018 m. Estebanas Realas ir jo kolegos iš Google naudojo NAS, kad sukurtų neuroninį tinklą vaizdų atpažinimui. įveikti geriausius žmogaus sukurtus tinklus tuo metu. Tai buvo akibrokštas.

2018 m. sistema yra dalis vykdomo Google projekto, pavadinto AutoML, kuris taip pat naudojo NAS, kad sukurtų EfficientNets – gilaus mokymosi modelių šeimą. efektyvesni nei žmogaus sukurti , pasiekiant aukšto lygio vaizdo atpažinimo užduočių tikslumą naudojant mažesnius ir greitesnius modelius.

Praėjus trejiems metams, „Real“ peržengia ribas to, ką galima sukurti nuo nulio. Ankstesnės sistemos tiesiog pertvarkė išbandytus ir patikrintus neuroninio tinklo elementus, pvz., esamus sluoksnių ar komponentų tipus. Galime tikėtis gero atsakymo, sako jis.

Pernai „Real“ ir jo komanda nuėmė treniruočių ratus. Naujoji sistema, vadinama AutoML Zero , bando sukurti AI nuo pat pradžių, naudodamas tik pačias paprasčiausias matematines sąvokas, kurios valdo mašininį mokymąsi.

Nuostabu, kad „AutoML Zero“ ne tik spontaniškai sukūrė neuroninį tinklą, bet ir sugalvojo gradiento nusileidimą – labiausiai paplitusią matematinę techniką, kurią žmonių dizaineriai naudoja treniruodami tinklą. Buvau labai nustebęs, sako Real. Tai labai paprastas algoritmas – tam reikia šešių kodo eilučių, tačiau jis parašė tiksliai šešias eilutes.

„AutoML Zero“ dar nekuria architektūros, kuri konkuruotų su žmogaus sukurtomis sistemomis, arba iš tikrųjų daro daug, ko nebūtų padaręs žmogus dizaineris. Tačiau „Real“ tiki, kad vieną dieną tai gali padaryti.

Laikas parengti naujo tipo mokytoją

Pirmiausia padarysite smegenis; tada tu turi to išmokyti. Tačiau mašinų smegenys nesimoko taip, kaip mokosi mūsų. Mūsų smegenys puikiai prisitaiko prie naujos aplinkos ir naujų užduočių. Šiuolaikinės AI gali išspręsti iššūkius tam tikromis sąlygomis, bet žlunga, kai tos sąlygos net šiek tiek pasikeičia. Šis nelankstumas trukdo siekti sukurti labiau apibendrinamą AI, kuris gali būti naudingas įvairiuose scenarijuose, o tai būtų didelis žingsnis siekiant, kad jie būtų tikrai protingi.

Jane Wang, Londono „DeepMind“ mokslininkės, geriausias būdas padaryti dirbtinį intelektą lankstesnį – priversti jį išmokti tą savybę. Kitaip tariant, ji nori sukurti dirbtinį intelektą, kuris ne tik išmoktų konkrečias užduotis, bet ir išmoktų jas išmokti tokiais būdais, kuriuos būtų galima pritaikyti naujoms situacijoms.

Tyrėjai daugelį metų stengėsi, kad dirbtinis intelektas būtų labiau pritaikomas. Wangas mano, kad priverstinis dirbtinis intelektas pats išspręstų šią problemą išvengia kai kurių rankomis sukurto metodo bandymų ir klaidų: negalime tikėtis, kad iš karto suklupsime teisingą atsakymą. Ji tikisi, kad šio proceso metu mes taip pat sužinosime daugiau apie tai, kaip veikia smegenys. Vis dar tiek daug nesuprantame, kaip žmonės ir gyvūnai mokosi, sako ji.

Yra du pagrindiniai būdai, kaip automatiškai generuoti mokymosi algoritmus, tačiau abu jie pradeda nuo esamo neuroninio tinklo ir naudoja dirbtinį intelektą jo mokymui.

Susijusi istorija

Daugeliu pojūčių ginkluotas dirbtinis intelektas gali įgyti lankstesnį intelektą

Žmogaus intelektas kyla iš mūsų pojūčių ir kalbos gebėjimų derinio. Galbūt tas pats pasakytina ir apie dirbtinį intelektą.

Pirmasis metodas, kurį išrado atskirai Wang ir jos kolegos iš „DeepMind“. ir pagal komanda OpenAI maždaug tuo pačiu metu naudoja pasikartojančius neuroninius tinklus. Šio tipo tinklai gali būti apmokyti taip, kad jų neuronų aktyvacijos, maždaug panašios į neuronų uždegimą biologinėse smegenyse, koduotų bet kokio tipo algoritmus. „DeepMind“ ir „OpenAI“ pasinaudojo tuo, kad išmokytų pasikartojantį neuroninį tinklą generuoti sustiprinimo mokymosi algoritmus, kurie nurodo AI, kaip elgtis, kad būtų pasiekti užsibrėžti tikslai.

Rezultatas yra tai, kad DeepMind ir OpenAI sistemos neišmoksta algoritmo, kuris išsprendžia konkretų iššūkį, pavyzdžiui, atpažįsta vaizdus, ​​bet išmoksta mokymasis algoritmas, kuris gali būti taikomas kelioms užduotims ir prisitaiko prie jo. Tai panašu į seną posakį, kaip išmokyti ką nors žvejoti: nors rankomis sukurtas algoritmas gali išmokti tam tikrą užduotį, šie AI yra sukurti taip, kad išmoktų mokytis patys. Ir kai kurie iš jų veikia geriau nei žmogaus sukurti.

Antrasis požiūris kyla iš Chelsea Finn iš Kalifornijos universiteto Berklyje ir jos kolegų. Skambino modelinis-agnostinis meta-mokymasis , arba MAML, jis apmoko modelį naudodamas du mašininio mokymosi procesus, vienas įdėtas į kitą.

Apytiksliai, štai kaip tai veikia. Vidinis MAML procesas apmokomas naudojant duomenis, o tada išbandomas – kaip įprasta. Bet tada išorinis modelis naudoja vidinio modelio našumą – tarkim, kaip gerai jis atpažįsta vaizdus – ir naudoja jį, kad išmoktų koreguoti to modelio mokymosi algoritmą, kad būtų padidintas našumas. Atrodo, tarsi mokyklos inspektorius prižiūrėtų daugybę mokytojų, kurių kiekvienas siūlo skirtingus mokymosi būdus. Inspektorius patikrina, kurie metodai padeda mokiniams gauti geriausius balus ir atitinkamai juos pakoreguoja.

Taikydami šiuos metodus, mokslininkai kuria DI, kuris yra tvirtesnis, labiau apibendrintas ir gali greičiau mokytis turėdami mažiau duomenų. Pavyzdžiui, Finnas nori, kad robotas, išmokęs vaikščioti lygia žeme, galėtų minimaliai papildomai treniruotis pereiti prie vaikščiojimo šlaitu, žole arba nešant krovinį.

Praėjusiais metais Clune'as ir jo kolegos išplėtė Finno techniką, kad sukurtų algoritmą, kuris mokosi naudojant mažiau neuronų, kad neperrašytų visko, ko išmoko anksčiau, o tai yra didelė neišspręsta mašininio mokymosi problema, žinoma kaip katastrofiškas pamiršimas. Išmokytas modelis, kuris naudoja mažiau neuronų, žinomas kaip negausus modelis, turės daugiau nepanaudotų neuronų, kad būtų galima skirti naujoms užduotims, kai bus perkvalifikuotas, o tai reiškia, kad bus perrašyta mažiau naudojamų neuronų. Clune'as išsiaiškino, kad savo dirbtiniu intelektu iškėlus iššūkį išmokti daugiau nei vieną užduotį, jis sukūrė savo negausaus modelio versiją, pranokstančią žmogaus sukurtus.

Jei ketiname leisti dirbtiniam intelektui kurti ir mokytis pačiam, AI taip pat turėtų sukurti savo mokymo aplinką – mokyklas ir vadovėlius, taip pat pamokų planus.

Ir praėjusiais metais buvo atlikta daugybė projektų, kuriuose dirbtinis intelektas buvo apmokytas automatiškai generuojamų duomenų. Pavyzdžiui, veidų atpažinimo sistemos mokomos naudojant dirbtinio intelekto sukurtus veidus. AI taip pat mokosi treniruoti vieni kitus. Viename naujausiame pavyzdyje dvi roboto rankos dirbo kartu, viena ranka mokėsi nustatyti sunkesnius blokų krovimo iššūkius, kurie mokė kitą suimti ir sugriebti daiktus.

Tiesą sakant, Clune'as svarsto, ar žmogaus intuicija apie tai, kokių duomenų reikia dirbtiniam intelektui, norint išmokti, gali pakenkti. Pavyzdžiui, jis ir jo kolegos sukūrė tai, ką jis vadina generatyvūs mokymo tinklai , kurie sužino, kokius duomenis jie turėtų generuoti, kad gautų geriausių rezultatų treniruodami modelį. Viename eksperimente jis panaudojo vieną iš šių tinklų, kad pritaikytų ranka įrašytų skaičių duomenų rinkinį, kuris dažnai naudojamas vaizdų atpažinimo algoritmams mokyti. Tai, ką jis sugalvojo, atrodė labai skirtingai nuo pradinio žmogaus sukurto duomenų rinkinio: šimtai ne visai skaitmenų, pavyzdžiui, viršutinė septintos figūros pusė arba tai, kas atrodė kaip du skaitmenys, sujungti kartu. Kai kuriuos AI sukurtus pavyzdžius buvo sunku iššifruoti. Nepaisant to, dirbtinio intelekto sukurti duomenys vis tiek atliko puikų darbą mokydami rašysenos atpažinimo sistemą, kad būtų galima nustatyti tikrus skaitmenis.

Nemėginkite sėkmės

Dirbtinio intelekto sukurti duomenys vis dar yra tik galvosūkio dalis. Ilgalaikė vizija yra panaudoti visus šiuos metodus – ir kitus dar neišrastus – ir perduoti juos dirbtinio intelekto treneriui, kuris kontroliuoja, kaip dirbtinės smegenys yra sujungtos, kaip jos treniruojamos ir kuo jos treniruojamos. Net Clune'as nėra aiškus, kaip atrodytų tokia būsima sistema. Kartais jis kalba apie savotišką hiperrealistišką imituotą smėlio dėžę, kurioje dirbtinis intelektas gali nusipjauti dantis ir nulupti virtualius kelius. Kažkas tokio sudėtingo dar liko metų. Kol kas artimiausias dalykas yra POET, sistema Clune, sukurta su Uber's Rui Wang ir kt.

Wang sako, kad POETą paskatino paradoksas. Jei bandysite išspręsti problemą, jums nepavyks; jei nebandysite to išspręsti, jums didesnė tikimybė, kad pasiseks. Tai yra viena iš įžvalgų, kurią Clune'as perėmė iš savo analogijos su evoliucija – nuostabių rezultatų, atsirandančių iš akivaizdžiai atsitiktinio proceso, dažnai nepavyksta atkurti imantis sąmoningų žingsnių to paties tikslo link. Neabejotina, kad drugeliai egzistuoja, tačiau atsigręžkite į jų vienaląsčius pirmtakus ir pabandykite juos sukurti nuo nulio, pasirinkdami kiekvieną žingsnį nuo bakterijos iki klaidos, ir greičiausiai jums nepavyks.

POET pradeda savo dvikojį agentą paprastoje aplinkoje, pavyzdžiui, lygiu keliu be kliūčių. Iš pradžių agentas nežino, ką daryti su kojomis ir negali vaikščioti. Tačiau per bandymus ir klaidas jį valdantis sustiprinimo mokymosi algoritmas išmoksta judėti lygia žeme. Tada POET sukuria naują atsitiktinę aplinką, kuri yra kitokia, bet nebūtinai sunkiau įsilieti į ją. Agentas bando ten vaikščioti. Jei šioje naujoje aplinkoje yra kliūčių, agentas išmoksta jas įveikti arba peržengti. Kiekvieną kartą, kai agentui pasiseka ar užstringa, jis perkeliamas į naują aplinką. Laikui bėgant agentai išmoksta vaikščioti ir šokinėti, leidžiančius jiems įveikti vis sunkesnius kliūčių ruožus.

Komanda nustatė, kad būtinas atsitiktinis aplinkos perjungimas.

Pavyzdžiui, agentai kartais išmokdavo vaikščioti lygia žeme keistai, pusiau klūpėdami, nes tai buvo pakankamai gerai. Jie niekada neišmoksta atsistoti, nes jiems to niekada nereikia, sako Wang. Tačiau po to, kai jie buvo priversti išmokti alternatyvių strategijų kliūtimis nusėtame plote, jie galėjo grįžti į pradinį etapą ir geriau vaikščioti – naudoti abi kojas, o ne vilkti vieną iš paskos, o tada patobulintą savo versiją perkelti į priekį. į sunkesnius iššūkius.

POETAS treniruoja savo robotus taip, kaip to nedarytų joks žmogus – į sėkmę jis eina nepastoviais, neintuityviais keliais. Kiekviename etape robotai bando išsiaiškinti bet kokio iššūkio, su kuriuo jie susiduria, sprendimą. Įveikdami atsitiktinai atrinktas kliūtis, jie apskritai pagerėja. Tačiau šiame procese nėra galutinio taško, nėra galutinio išbandymo, kurį reikia išlaikyti, ar aukšto balo, kurį reikia įveikti.

Clune'as, Wangas ir daugelis jų kolegų mano, kad tai yra gili įžvalga. Dabar jie tiria, ką tai gali reikšti kuriant itin išmanias mašinas. Galėtų pabandyti ne Nubrėžti konkretų kelią iš tikrųjų yra pagrindinis proveržis kelyje į dirbtinį bendrą intelektą?

POET jau įkvepia kitus tyrinėtojus, tokius kaip Natasha Jaques ir Michael Dennis iš Kalifornijos universiteto Berklyje. Jie sukūrė sistemą, vadinamą SUporuotas kuri naudoja dirbtinį intelektą, kad sukurtų daugybę labirintų, kad išmokytų kitą AI juos naršyti.

Rui Wang mano, kad žmonių sukurti iššūkiai bus kliūtis ir kad tikra AI pažanga turės sugalvoti savo. Kad ir kokie geri algoritmai būtų šiandien, jie visada išbandomi pagal kokį nors rankomis sukurtą etaloną, sako jis. Labai sunku įsivaizduoti, kad iš to kils dirbtinis bendrasis intelektas, nes jis yra saistomas fiksuotų tikslų.

Nauja intelekto rūšis

Spartus dirbtinio intelekto, kuris gali treniruotis, vystymasis taip pat kelia klausimų, kaip galime kontroliuoti jo augimą. Idėja apie dirbtinį intelektą, kuri sukuria geresnį AI, yra esminė mitų, susijusių su singuliarumu, dalis – įsivaizduojamas ateities taškas, kai AI pradės tobulėti eksponentiniu greičiu ir nebegalime kontroliuoti. Galų gale, kai kurie pasmerkėjai perspėja, dirbtinis intelektas gali nuspręsti, kad jam visai nereikia žmonių.

Nė vienas iš šių tyrinėtojų to neturi omenyje: jų darbas yra labai orientuotas į šiandienos AI gerinimą. Mašinos, kurios siaučia, tebėra tolima antifantazija.

Nepaisant to, „DeepMind“ atstovė Jane Wang turi abejonių. Didelė AI panaudojimo AI patrauklumo dalis yra ta, kad jis gali sukurti dizainą ir metodus, apie kuriuos žmonės net nepagalvojo. Vis dėlto Wang pažymi, kad ne visi netikėtumai yra geri netikėtumai: atvirumas pagal apibrėžimą yra kažkas netikėto. Jei visa idėja yra priversti AI padaryti tai, ko nesitikėjote, bus sunkiau suvaldyti. Tai ir įdomu, ir baisu, sako ji.

Clune'as taip pat pabrėžia, kaip svarbu nuo pat pradžių galvoti apie naujosios technologijos etiką. Yra didelė tikimybė, kad dirbtinio intelekto sukurtus neuroninius tinklus ir algoritmus bus dar sunkiau suprasti nei šiandienines jau nepermatomas juodųjų dėžių sistemas. Ar AI, kuriuos sukuria algoritmai, yra sunkiau auditas dėl šališkumo ? Ar sunkiau garantuoti, kad jie nesielgs nepageidaujamai?

Clune'as tikisi, kad tokie klausimai bus užduodami ir į juos bus atsakyta, nes vis daugiau žmonių suvoks savaime besikuriančių AI potencialą. Daugelis mašininio mokymosi bendruomenės žmonių iš tikrųjų niekada nekalba apie mūsų bendrą kelią į itin galingą dirbtinį intelektą, o jie linkę sutelkti dėmesį į mažus, laipsniškus patobulinimus. Clune'as nori vėl pradėti pokalbį apie didžiausius šios srities ambicijas.

Jo paties ambicijos yra susijusios su jo ankstyvaisiais interesais žmogaus intelektu ir jo raida. Jo didžioji vizija yra viską sutvarkyti taip, kad mašinos vieną dieną matytų savo intelektą – arba intelektą – atsirastų ir tobulėtų per daugybę bandymų ir klaidų kartų, vadovaujantis algoritmais, neturint omenyje galutinio plano.

Jei dirbtinis intelektas pats pradeda generuoti intelektą, nėra garantijos, kad jis bus panašus į žmogų. Užuot žmonės mokę mašinas mąstyti kaip žmonės, mašinos gali išmokyti žmones naujų mąstymo būdų.

Tikriausiai yra daugybė skirtingų būdų būti labai protingam, sako Clune'as. Vienas iš dalykų, kurie mane jaudina apie AI, yra tai, kad mes galime suprasti intelektą apskritai, matydami, kokie variantai galimi.

Manau, kad tai žavu. Turiu omenyje, kad tai beveik kaip tarpžvaigždinių kelionių išradimas ir galimybė aplankyti svetimas kultūras. Žmonijos istorijoje nebūtų geresnio momento, kaip susidurti su svetima rase ir sužinoti apie jos kultūrą, mokslą ir viską. Tarpžvaigždinės kelionės yra nepaprastai sudėtingos, tačiau mes galime potencialiai sukurti ateivių intelektą skaitmeniniu būdu.