Mokymo mašinos, kad mus suprastų

Pirmą kartą Yann LeCun padarė revoliuciją dirbtiniame intelekte, tai buvo netikra aušra. Tai buvo 1995 m., ir beveik dešimtmetį jaunasis prancūzas buvo atsidavęs tam, ką daugelis kompiuterių mokslininkų laikė bloga idėja: kad grubus tam tikrų smegenų ypatybių imitavimas yra geriausias būdas sukurti protingas mašinas. Tačiau LeCunas parodė, kad šis metodas gali sukurti kažką nepaprastai protingo ir naudingo. Dirbdamas „Bell Labs“ jis sukūrė programinę įrangą, kuri apytiksliai imituoja neuronus, ir išmoko skaityti ranka rašytą tekstą žiūrėdamas į daugybę skirtingų pavyzdžių. „Bell Labs“ patronuojanti įmonė AT&T naudojo jį parduodant pirmuosius įrenginius, galinčius nuskaityti čekių ir rašytinių formų rašyseną. LeCunui ir keliems kolegoms, tikintiems dirbtiniais neuroniniais tinklais, atrodė, kad tai žymi eros, kai mašinos galėjo išmokti daug kitų įgūdžių, kurie anksčiau buvo taikomi tik žmonėms, pradžią. Tai nebuvo.

Visas šis projektas tarsi išnyko didžiausios sėkmės dieną, sako LeCun. Tą pačią dieną, kai jis šventė banko aparatų, galinčių nuskaityti tūkstančius čekių per valandą, pristatymą, AT&T paskelbė, kad padalintas į tris bendroves skirta skirtingoms ryšių ir kompiuterijos rinkoms. LeCunas tapo plonesnės AT&T tyrimų vadovu ir buvo nukreiptas dirbti su kitais dalykais; 2002 m. jis paliks AT&T ir netrukus taps Niujorko universiteto profesoriumi. Tuo tarpu mokslininkai kitur nustatė, kad LeCun proveržio jie negalėjo pritaikyti kitoms skaičiavimo problemoms. Smegenų įkvėptas požiūris į AI vėl buvo įdomus.

Ši istorija buvo mūsų 2015 m. rugsėjo mėn. numerio dalis

• Žr. likusią numerio dalį
• Prenumeruoti

LeCunas, dabar stambus 55 metų vyras, besišypsantis ir tamsiais plaukais, palietęs žilus, nenustojo domėtis tuo. Ir stebėtinai atėjo visas likęs pasaulis. Idėjos, kurias jis ir keletas kitų puoselėjo daugiau nei du dešimtmečius trukusios apatijos ir kartais visiško atmetimo akivaizdoje, per pastaruosius kelerius metus davė stulbinamų rezultatų tokiose srityse kaip veido ir kalbos atpažinimas. Gilus mokymasis, kaip ši sritis dabar žinoma, tapo nauju mūšio lauku tarp „Google“ ir kitų pirmaujančių technologijų kompanijų, kurios lenktyniauja, kad galėtų jį panaudoti teikiant paslaugas vartotojams. Viena iš tokių įmonių yra „Facebook“, kuri 2013 m. gruodį pasamdė LeCuną iš NYU ir paskyrė jį vadovauti naujai dirbtinio intelekto tyrimų grupei FAIR, kurioje šiandien dirba 50 tyrėjų, bet kuri išaugs iki 100. LeCuno laboratorija yra pirmoji reikšminga „Facebook“ investicija į fundamentalią veiklą. tyrimai, ir tai gali būti labai svarbus įmonės bandymams tapti ne tik virtualia socialine vieta. Tai taip pat gali pakeisti mūsų lūkesčius, ką gali padaryti mašinos.

„Facebook“ ir kitos įmonės, įskaitant „Google“, IBM ir „Microsoft“, per pastaruosius kelerius metus greitai įsitraukė į šią sritį, nes gilus mokymasis yra daug geresnis nei ankstesni dirbtinio intelekto metodai, padedantys kompiuteriams įgyti įgūdžių, keliančių iššūkių mašinoms, pavyzdžiui, suprasti nuotraukas. . Šie labiau nusistovėję metodai reikalauja, kad žmonių ekspertai sunkiai programuotų tam tikrus gebėjimus, pavyzdžiui, kaip aptikti linijas ir kampus vaizduose. Giluminio mokymosi programinė įranga sugalvoja, kaip suprasti duomenis be jokio tokio programavimo. Kai kurios sistemos dabar gali atpažinti vaizdus arba veidai maždaug taip pat tiksliai kaip žmonės.

Dabar LeCun siekia kažko daug galingesnio. Jis nori pristatyti programinę įrangą, turinčią kalbos įgūdžių ir sveiko proto, reikalingo pagrindiniam pokalbiui. Užuot turėję bendrauti su aparatais spustelėdami mygtukus ar įvesdami kruopščiai parinktus paieškos terminus, galėtume tiesiog pasakyti jiems, ko norime, tarsi kalbėtume su kitu asmeniu. Jis prognozuoja, kad mūsų santykiai su skaitmeniniu pasauliu visiškai pasikeis dėl protingų agentų, su kuriais galite bendrauti. Jis mano, kad gilus mokymasis gali sukurti programinę įrangą, kuri supranta mūsų sakinius ir gali atsakyti tinkamais atsakymais, paaiškinančiais klausimais ar pasiūlymais.

Agentai, atsakantys į faktinius klausimus arba užsakantys restoranus, yra akivaizdi, jei ne visiškai pasaulį keičianti, programa. Taip pat nesunku suprasti, kaip tokia programinė įranga gali paskatinti labiau stimuliuojančius vaizdo žaidimų personažus arba pagerinti internetinį mokymąsi. Provokatyviau LeCun teigia, kad sistemos, kurios supranta įprastą kalbą, galėtų pakankamai gerai mus pažinti, kad suprastų, kas mums naudinga. Tokios sistemos turėtų sugebėti suprasti ne tik tai, kuo žmonės linksmintųsi, bet ir ką jiems reikia pamatyti, nepaisant to, ar tai patiks, sako jis. Tokie žygdarbiai neįmanomi naudojant paieškos sistemų, šiukšlių filtrų ir virtualių asistentų, kurie šiandien bando mus suprasti, technologijas. Jie dažnai nepaiso žodžių tvarkos ir susitvarko su tokiais statistiniais triukais kaip raktinių žodžių atitikimas ir skaičiavimas. Pavyzdžiui, „Apple“ „Siri“ bando sutalpinti tai, ką sakote, į nedidelį skaičių kategorijų, kurios suaktyvina scenarijaus atsakymus. Jie tikrai nesupranta teksto, sako LeCunas. Nuostabu, kad tai apskritai veikia. Tuo tarpu sistemos, kurios, atrodo, įvaldė sudėtingas kalbos užduotis, pvz., IBM Pavojus! nugalėtojas Watson, darykite tai būdamas itin specializuotas tam tikram formatui. Jis sako, kad tai miela kaip demonstravimas, bet ne darbas, kuris iš tikrųjų būtų paverstas bet kokia kita situacija.

Priešingai, gilaus mokymosi programinė įranga gali geriau suprasti kalbą, kaip tai daro žmonės. „Facebook“, „Google“ ir kitų šalių mokslininkai kuria programinę įrangą, kuri parodė pažangą siekiant suprasti, ką reiškia žodžiai. LeCun komanda turi sistemą, galinčią skaityti paprastas istorijas ir atsakyti į klausimus apie jas, remdamasi tokiais gebėjimais kaip loginis išskaičiavimas ir elementarus laiko supratimas.

Tačiau, kaip LeCunas žino iš pirmų lūpų, dirbtinis intelektas yra pagarsėjęs progreso spragomis, kurios skatina prognozuoti didelius šuolius į priekį, bet galiausiai labai mažai keičiasi. Sukurti programinę įrangą, galinčią susidoroti su akinančiai sudėtinga kalba, yra didesnis iššūkis nei išmokyti ją atpažinti objektus nuotraukose. Nekyla abejonių dėl gilaus mokymosi naudingumo kalbos atpažinimui ir vaizdų aptikimui , tačiau tai tik spėjimas, kad jis įvaldys kalbą ir radikaliau pakeis mūsų gyvenimą. Mes dar tiksliai nežinome, ar gilus mokymasis yra blykstė, kuri bus daug didesnė.

Gili istorija

Gilaus mokymosi šaknys siekia toliau nei LeCuno laikus „Bell Labs“. Jis ir keli kiti šios technikos pradininkai iš tikrųjų atgaivino seniai mirusią dirbtinio intelekto idėją.

Kai ši sritis prasidėjo, šeštajame dešimtmetyje, biologai tik pradėjo kurti paprastas matematines teorijas, kaip intelektas ir mokymasis atsiranda iš signalų, praeinančių tarp smegenų neuronų. Pagrindinė idėja, kuri vis dar aktuali ir šiandien, buvo ta, kad ryšiai tarp neuronų sustiprėja, jei tos ląstelės dažnai bendrauja. Naujos patirties sukeltas neuroninės veiklos fusiliadas pakoreguoja smegenų ryšius, kad antrą kartą galėtų geriau tai suprasti.

1956 m. psichologas Frankas Rosenblattas panaudojo šias teorijas, kad išrastų būdą, kaip atlikti paprastą programinės ir techninės įrangos neuronų modeliavimą. The Niujorko laikas paskelbė apie savo darbą antrašte Elektroninės „smegenys“ moko save . Rosenblatto perceptronas, kaip jis pavadino savo dizainą, galėtų išmokti rūšiuoti paprastus vaizdus į kategorijas, pavyzdžiui, trikampius ir kvadratus. Rosenblattas paprastai įgyvendino savo idėjas milžiniškos mašinos storai susipynę su laidais, tačiau jie nustatė pagrindinius principus, kurie šiandien veikia dirbtiniuose neuroniniuose tinkluose.

Gilus mokymasis yra geras diktuojant ir atpažįstant vaizdus. Bet ar jis gali įvaldyti žmogaus kalbą?

Viename jo sukurtame kompiuteryje buvo aštuoni imituoti neuronai, pagaminti iš variklių ir ciferblatų, sujungtų su 400 šviesos detektorių. Kiekvienas neuronas gavo dalį signalų iš šviesos detektorių, juos sujungė ir, priklausomai nuo to, ką jie sudėjo, išspjovė arba vienas arba a 0 . Kartu šie skaitmenys prilygo perceptrono apibūdinimui to, ką jis matė. Iš pradžių rezultatai buvo šiukšlės. Tačiau Rosenblatt naudojo metodą, vadinamą prižiūrimu mokymusi, kad išmokytų perceptroną gauti rezultatus, kurie teisingai išskiria skirtingas formas. Jis parodytų perceptronui vaizdą kartu su teisingu atsakymu. Tada aparatas pakoreguotų, kiek dėmesio kiekvienas neuronas skyrė įeinantiems signalams, perkeldamas tuos svorius į nustatymus, kurie duotų teisingą atsakymą. Po daugybės pavyzdžių, šie patikslinimai suteikė kompiuteriui pakankamai išminties, kad būtų galima teisingai suskirstyti į kategorijas vaizdus, ​​kurių jis anksčiau nematė. Šiandieniniai gilaus mokymosi tinklai naudoja sudėtingus algoritmus ir turi milijonus imituojamų neuronų, tarp kurių yra milijardai jungčių. Bet jie treniruojami taip pat.

Rosenblattas numatė, kad perceptronai greitai galės atlikti tokius žygdarbius, kaip pasveikinti žmones vardu, ir jo idėja tapo besiformuojančios dirbtinio intelekto srities atrama. Darbas buvo sutelktas į perceptronų kūrimą su sudėtingesniais tinklais, suskirstytais į kelių mokymosi sluoksnių hierarchiją. Vaizdų ar kitų duomenų perdavimas iš eilės per sluoksnius leistų perceptronui išspręsti sudėtingesnes problemas. Deja, Rosenblatt mokymosi algoritmas neveikė keliuose sluoksniuose. 1969 m. dirbtinio intelekto pradininkas Marvinas Minsky, baigęs vidurinę mokyklą su Rosenblatt, paskelbė knygos apimties perceptronų kritika kuris vienu smūgiu nužudė susidomėjimą neuroniniais tinklais. Minskis tvirtino, kad dirbant daugiau sluoksnių, perceptronai nebus pakankamai galingi, kad būtų naudingi. Dirbtinio intelekto tyrinėtojai atsisakė idėjos kurti programinę įrangą, kuri išmoktų. Vietoj to, jie pasinaudojo logika, kad sukurtų veikiančius intelekto aspektus, tokius kaip šachmatai. Neuroniniai tinklai buvo nustumti į kompiuterių mokslo paraštes.

Nepaisant to, LeCunas buvo sužavėtas, kai devintojo dešimtmečio pradžioje studijuodamas inžinerijos studentas Paryžiuje perskaitė apie perceptronus. Buvau nustebęs, kad tai veikė, ir galvojau, kodėl žmonės jo atsisakė, sako jis. Jis dienas praleido tyrimų bibliotekoje netoli Versalio, ieškodamas straipsnių, išleistų prieš išnykstant perceptronams. Tada jis atrado, kad nedidelė tyrėjų grupė JAV vėl slapta dirbo su neuroniniais tinklais. Tai buvo labai pogrindinis judėjimas, sako jis. Straipsniuose, kuriuose kruopščiai išvalomi žodžiai, pvz., neuronas, ir mokomasi išvengti recenzentų atmetimo, jie nagrinėjo kažką panašaus į seną Rosenblatto problemą, kaip išmokyti neuroninius tinklus su keliais sluoksniais.

LeCunas prisijungė prie pogrindžio po to, kai 1985 m. susitiko su pagrindinėmis jo asmenybėmis, įskaitant niūrų britą Geoffą Hintoną, kuris dabar dirba „Google“ ir Toronto universitete. Jie iškart tapo draugais, abipusiais gerbėjais ir mažos bendruomenės branduoliu, atgaivino neuroninio tinklo idėją. Juos palaikė tikėjimas, kad vienintelis būdas sukurti dirbtinį intelektą buvo naudojant pagrindinį mechanizmą, matomą natūraliame intelekte. Vienintelis būdas, apie kurį žinojome, buvo smegenys, todėl ilgainiui turėjo būti, kad kažkas panašaus į sistemas galėtų veikti, sako Hintonas.

LeCuno sėkmė „Bell Labs“ atsirado po to, kai jis, Hintonas ir kiti ištobulino kelių sluoksnių neuroninių tinklų mokymosi algoritmą. Jis buvo žinomas kaip „backpropagation“ ir sukėlė psichologų bei kompiuterių mokslininkų susidomėjimą. Tačiau pasibaigus LeCun patikros skaitymo projektui, atgalinis propagavimas pasirodė sudėtingas prisitaikyti prie kitų problemų, o naują būdą išmokyti programinę įrangą rūšiuoti duomenis išrado Bell Labs tyrėjas, esantis LeCun salėje. Jame nebuvo imituotų neuronų ir jis buvo vertinamas kaip matematiškai elegantiškesnis. Labai greitai jis tapo kertiniu akmeniu interneto kompanijoms, tokioms kaip „Google“, „Amazon“ ir „LinkedIn“, kurios naudoja ją sistemoms, kurios blokuoja nepageidaujamą el. pašto adresą, arba siūlo jums pirkti.

Po to, kai 2003 m. LeCun pateko į NYU, jis, Hintonas ir trečiasis bendradarbis, Monrealio universiteto profesorius Yoshua Bengio, suformavo tai, ką LeCun vadina gilaus mokymosi sąmokslu. Siekdami įrodyti, kad neuroniniai tinklai būtų naudingi, jie tyliai sukūrė būdus, kaip juos padidinti, apmokyti su didesniais duomenų rinkiniais ir paleisti juos galingesniuose kompiuteriuose. LeCuno rašysenos atpažinimo sistema turėjo penkis neuronų sluoksnius, bet dabar jie galėjo turėti 10 ar daug daugiau. Maždaug 2010 m. tai, kas dabar buvo vadinama giliuoju mokymusi, pradėjo įveikti nusistovėjusius metodus atliekant realias užduotis, pvz., vaizdų rūšiavimą. „Microsoft“, „Google“ ir IBM pridėjo jį prie kalbos atpažinimo sistemų. Tačiau neuroniniai tinklai vis dar buvo svetimi daugumai tyrinėtojų ir nebuvo laikomi plačiai naudingais. 2012 m. pradžioje LeCunas parašė ugningą laišką – iš pradžių paskelbtas anonimiškai – po to, kai viena iš pirmaujančių konferencijų atmetė pranešimą, kuriame teigiama, kad buvo pasiektas naujas standartinės regėjimo užduoties rekordas. Jis apkaltino apžvalgininkus esą nesupratingi ir neigiamai šališki.

Viskas pasikeitė po šešių mėnesių. Hintonas ir du abiturientai naudojo tokį tinklą kaip LeCun sukurtas skaitymo patikrai, kad nukreiptų lauką pirmaujančiame vaizdo atpažinimo konkurse. Žinomas kaip „ImageNet Large Scale Visual Recognition Challenge“, jame prašoma programinės įrangos identifikuoti 1000 skirtingų objektų tipų, pavyzdžiui, tinkleliai nuo uodų ir mečetės. Toronto įrašas teisingai atpažino objektą vaizde per penkis spėjimus maždaug 85 procentus laiko, daugiau nei 10 procentinių punktų geriau nei antra pagal dydį sistema. Giluminio mokymosi programinės įrangos pradiniai neuronų sluoksniai optimizavo save, kad surastų paprastus dalykus, pvz., kraštus ir kampus, o po to sluoksniai ieškojo sudėtingesnių funkcijų, tokių kaip pagrindinės formos ir galiausiai šunys ar žmonės.

LeCunas prisimena, kad bendruomenė, kuri dažniausiai ignoravo neuroninius tinklus, susirinko į kambarį, kur nugalėtojai pristatė savo rezultatus. Matėte, kad daug vyresnio amžiaus žmonių bendruomenėje tiesiog apsivertė, sako jis. Jie pasakė: „Gerai, dabar mes jį perkame. Štai ir viskas – tu laimėjai.

Kompiuterinio regėjimo srityje dirbantys akademikai greitai atsisakė savo senųjų metodų, o gilus mokymasis staiga tapo viena iš pagrindinių dirbtinio intelekto krypčių. „Google“ įsigijo įmonę, kurią įkūrė Hintonas ir dvi kitos, kurios 2012 m. rezultatas buvo pasiektas, ir Hintonas pradėjo dirbti ne visą darbo dieną tyrimų grupėje, vadinamoje „Google Brain“. „Microsoft“ ir kitos įmonės sukūrė naujus projektus, skirtus giliam mokymuisi tirti. 2013 m. gruodį „Facebook“ generalinis direktorius Markas Zuckerbergas pribloškė akademikus, pasirodęs didžiausioje neuroninių tinklų tyrimų konferencijoje, surengęs vakarėlį, kuriame paskelbė, kad LeCun pradeda FAIR (nors vieną dieną per savaitę jis vis dar dirba NYU).

LeCunas vis dar jaučia prieštaringus jausmus dėl 2012 m. tyrimo, kuris atvedė aplinkinį pasaulį į jo požiūrį. Tam tikru mastu tai turėjo išeiti iš mano laboratorijos, sako jis. Hintonas dalijasi tokiu vertinimu. Yannui buvo šiek tiek gaila, kad jis nebuvo tas, kuris iš tikrųjų sukūrė proveržio sistemą, sako jis. LeCuno grupė nuveikė daugiau nei bet kas kitas, kad įrodytų būdus, naudojamas laimėti ImageNet iššūkį. Jis galėjo laimėti, jei studentų baigimo tvarkaraščiai ir kiti įsipareigojimai netrukdė jo grupei prisijungti prie „ImageNet“, sako jis. LeCun'o medžioklė dėl gilaus mokymosi kito proveržio dabar yra galimybė išlyginti rezultatą.

LeCun iš Bell Labs 1993 m. su kompiuteriu, kuris galėjo nuskaityti rašyseną ant čekių.

Kalbos mokymasis

„Facebook“ biuras Niujorke yra trys minutės pėsčiomis iki Brodvėjaus nuo LeCun biuro Niujorke, dviejuose pastato, XX amžiaus pradžioje pastatyto kaip universalinė parduotuvė, aukštuose. Darbuotojai atvirame plane susitelkę tankiau nei „Facebook“ būstinėje Menlo parke, Kalifornijoje, tačiau juos vis tiek galima pastebėti slystančius ant šarnyrinėmis riedlentėmis, kai buvo pranešta apie savaitinį alaus tenisą. Čia dirba beveik pusė LeCun pirmaujančių dirbtinio intelekto tyrėjų komandos, o likusi dalis – Facebook Kalifornijos miestelyje arba biure Paryžiuje. Daugelis jų stengiasi, kad neuroniniai tinklai geriau suprastų kalbą. Aš pasamdžiau visus tuo dirbančius žmones, kuriuos galėjau, sako LeCun.

Neuroninis tinklas gali išmokti žodžius slinkdamas per tekstą ir apskaičiuodamas, kaip kiekvienas žodis, su kuriuo jis susiduria, galėjo būti nuspėjamas pagal žodžius prieš ar po jo. Tai darydama, programinė įranga išmoksta pavaizduoti kiekvieną žodį kaip vektorių, nurodantį jo ryšį su kitais žodžiais – procesą, kuris beprotiškai fiksuoja sąvokas kalboje. Skirtumas tarp karaliaus ir karalienės vektorių yra toks pat kaip, pavyzdžiui, vyro ir žmonos. Popieriaus ir kartono vektoriai yra arti vienas kito, o didelių ir didelių - dar arčiau.

Tas pats metodas tinka ir ištisiems sakiniams (Hintonas teigia, kad generuoja minčių vektorius), o „Google“ ketina jį panaudoti automatinio vertimo paslaugai sustiprinti. Neseniai paskelbtame Kinijos universiteto ir „Microsoft“ Pekino laboratorijos mokslininkų darbe buvo panaudota vektoriaus technikos versija, kad būtų sukurta programinė įranga, įveikianti kai kuriuos žmones IQ testo klausimais, kuriems reikia suprasti sinonimus, antonimus ir analogijas.

LeCuno grupė dirba toliau. Kalba pati savaime nėra tokia sudėtinga, sako jis. Sudėtinga yra gilus kalbos ir pasaulio supratimas, kuris suteikia sveiko proto. Štai ką mes tikrai norime sukurti į mašinas. LeCun reiškia sveiką protą, kaip Aristotelis vartojo terminą: gebėjimas suprasti pagrindinę fizinę tikrovę. Jis nori, kad kompiuteris suprastų, jog sakinys, Yann paėmė butelį ir išėjo iš kambario, reiškia, kad butelis liko su juo. „Facebook“ mokslininkai išrado gilaus mokymosi sistemą, vadinamą atminties tinklu, kuri parodo, kas gali būti ankstyvieji sveiko proto sujudimai.

Atminties tinklas yra neuroninis tinklas su atminties banku, pritvirtintu, kad išsaugotų sužinotus faktus, kad jie nebūtų nuplauti kiekvieną kartą, kai gaunami nauji duomenys. „Facebook“ AI laboratorija sukūrė versijas, kurios gali atsakyti į paprastus sveiko proto klausimus apie tekstą, kurių jie dar nematė. Pavyzdžiui, kai tyrėjai atminties tinklui pateikė labai supaprastintą siužeto santrauką Žiedų valdovas , jis galėtų atsakyti į tokius klausimus kaip Kur yra žiedas? ir kur buvo Frodas prieš Pražūties kalną? Jis galėjo interpretuoti paprastą tekste aprašytą pasaulį, nepaisant to, kad anksčiau niekada nebuvo susidūręs su daugeliu vardų ar objektų, tokių kaip Frodas ar žiedas.

Programinė įranga išmoko savo pradinio sveiko proto, kai jai buvo parodyta, kaip atsakyti į klausimus apie paprastą tekstą, kuriame veikėjai atlieka dalykus daugelyje kambarių, pavyzdžiui, Fredis persikėlė į miegamąjį, o Džo į virtuvę. Tačiau LeCun nori atskleisti programinę įrangą tekstams, kurie kur kas geriau fiksuoja gyvenimo sudėtingumą ir dalykus, kurių gali prireikti virtualiam asistentui. Vienas iš šių duomenų šaltinių galėtų būti virtualus konsjeržas Moneypenny, kurį „Facebook“ turėtų išleisti. Teigiama, kad asistentą valdo žmonių operatorių komanda, kuri padės žmonėms atlikti tokius dalykus kaip rezervuoti restoranus. LeCuno komanda galėtų turėti atminties tinklą ant Moneypenny peties, kol galiausiai leis jai mokytis bendraudama su žmonėmis.

Kelios įmonės atidarė giluminio mokymosi laboratorijas. Aš pasamdžiau visus tuo dirbančius žmones, kuriuos galėjau, sako LeCun.

Norint sukurti kažką, kas galėtų palaikyti net paprastą, siaurą pokalbį, vis tiek reikia daug dirbti. Pavyzdžiui, neuroniniai tinklai parodė tik labai paprastą samprotavimą, o mokslininkai nesuprato, kaip juos būtų galima išmokyti planuoti, sako LeCun. Tačiau iki šiol su technologija atlikto darbo rezultatai leidžia jam įsitikinti, kur viskas vyksta. Jis sako, kad revoliucija artėja.

Kai kurie žmonės yra mažiau tikri. Giluminio mokymosi programinė įranga iki šiol rodė tik pačias paprasčiausias galimybes, reikalingas tam, ką galėtume pripažinti pokalbiu, sakoma. Oren Etzioni , Alleno dirbtinio intelekto instituto Sietle generalinis direktorius. Pasak jo, vis dar reikalingos logikos ir planavimo galimybės labai skiriasi nuo tų, kuriuos neuroniniai tinklai darė geriausiai: pikselių ar akustinių bangų formų sekų skaidymas, siekiant nuspręsti, kuriai vaizdo kategorijai ar žodžiui jie atstovauja. Jis sako, kad natūralios kalbos supratimo problemos nėra sumažinamos taip pat.

Garis Markusas NYU psichologijos ir nervų mokslų profesorius, tyrinėjęs, kaip žmonės mokosi kalbos, ir neseniai įkūręs dirbtinio intelekto įmonę, pavadintą Geometrinis intelektas, mano, kad LeCun neįvertina, kaip sunku esamai programinei įrangai perimti kalbą ir sveiką protą. Programinės įrangos mokymas naudojant didelius kruopščiai anotuotų duomenų kiekius yra tinkamas norint, kad ji rūšiuotų vaizdus. Tačiau Marcusas abejoja, ar jis gali įgyti sudėtingesnių įgūdžių, reikalingų kalbai, kai žodžių ir sudėtingų sakinių reikšmės gali keistis priklausomai nuo konteksto. Žmonės žiūrės į gilų mokymąsi ir sakys, kad tai tikrai galinga technika – tai pirmas kartas, kai dirbtinis intelektas tapo praktiškas, sako jis. Jie taip pat sakys, kad šiems dalykams reikia daug duomenų, o buvo domenų, kur žmonėms niekada neužteko. Marcusas mano, kad kalba gali būti viena iš tų sričių. Kad programinė įranga galėtų valdyti pokalbį, ji turėtų mokytis daugiau kaip mažylis, kuris jį paima be aiškių nurodymų, siūlo jis.

Gilus tikėjimas

„Facebook“ būstinėje Kalifornijoje Vakarų pakrantės „LeCun“ komandos nariai sėdi šalia Marko Zuckerbergo ir Mike'o Schroepferio, bendrovės CTO. „Facebook“ vadovai žino, kad „LeCun“ grupė dar šiek tiek negali sukurti ką nors, su kuo galėtumėte pasikalbėti, tačiau Schroepferis jau galvoja, kaip tai panaudoti. Būsimasis „Facebook“, kurį jis aprašo, atrenka ir koordinuoja informaciją, pavyzdžiui, liokajus, su kuriuo bendrauji rašydamas ar kalbėdamas kaip su žmogumi.

Galite įsitraukti į sistemą, kuri tikrai gali suprasti sąvokas ir kalbą daug aukštesniu lygiu, sako Schroepfer. Jis įsivaizduoja galįs paprašyti, kad matytumėte draugo kūdikio nuotraukas, bet ne jo juokelius. Manau, kad artimiausiu metu to versija bus labai įgyvendinama, sako jis. Kadangi LeCuno sistemos pasiekia geresnių samprotavimo ir planavimo gebėjimų, jis tikisi, kad pokalbis bus ne toks vienpusis. „Facebook“ gali pasiūlyti informaciją, kuri, jo nuomone, jums patiks, ir paklausti, ką apie tai galvojote. Galiausiai tai tarsi šis itin protingas pagalbininkas, prijungtas prie visų pasaulio informacijos srautų, sako Schroepferis.

Neaišku, kiek naudos gautume iš išmanesnių virtualių asistentų, tačiau gali tekti ilgai laukti, kad sužinotume.

Algoritmai, reikalingi tokiai sąveikai užtikrinti, taip pat pagerintų sistemas, kurias „Facebook“ naudoja mūsų matomiems įrašams ir skelbimams filtruoti. Ir jie gali būti gyvybiškai svarbūs „Facebook“ ambicijoms tapti kur kas daugiau nei tik vieta bendrauti. Pavyzdžiui, kai „Facebook“ pradeda talpinti straipsnius ir vaizdo įrašus žiniasklaidos ir pramogų įmonių vardu, žmonėms reikės geresnių informacijos tvarkymo būdų. Virtualūs asistentai ir kiti LeCuno darbo rezultatai taip pat galėtų padėti „Facebook“ ambicingesniems nukrypimams nuo pradinio verslo, pavyzdžiui, „Oculus“ grupei, kuri siekia virtualią realybę paversti masinės rinkos technologija.

Nieko to nenutiks, jei pastarieji įspūdingi rezultatai ištiks ankstesnių didelių dirbtinio intelekto idėjų likimą. Jaudulio žiedai aplink neuroninius tinklus nuvyto jau du kartus. Tačiau nors skundžiasi, kad kitos įmonės ar mokslininkai per daug garsina savo darbą, yra vienas iš LeCun mėgstamiausias pramogas , jis sako, kad yra pakankamai netiesioginių įrodymų, kad tvirtai atsilaikytų už jo paties prognozes, kad gilus mokymasis duos įspūdingų rezultatų. Jis sako, kad technologija vis dar suteikia daugiau tikslumo ir galios visose AI srityse, kuriose ji buvo pritaikyta. Reikia naujų idėjų, kaip ją pritaikyti kalbos apdorojimui, tačiau vis dar nedidelė sritis sparčiai plečiasi, nes įmonės ir universitetai tam skiria daugiau žmonių. Tai paspartins pažangą, sako LeCun.

Vis dar neaišku, ar gilus mokymasis gali duoti ką nors panašaus, kaip įsivaizduoja „Facebook“ informacinis liokajus. Ir net jei gali, sunku pasakyti, kiek pasaulis iš to turėtų naudos. Tačiau mums gali nereikėti ilgai laukti, kad sužinotume. LeCun spėja, kad virtualūs pagalbininkai, turintys precedento neturintį programinės įrangos kalbos meistriškumą, bus prieinami vos po dvejų ar penkerių metų. Jis tikisi, kad kiekvienas, kuris abejoja gilaus mokymosi gebėjimu įvaldyti kalbą, dar greičiau bus suklydęs. Jis sako, kad yra tas pats reiškinys, kurį stebėjome prieš pat 2012 m. Viskas pradeda veikti, bet klasikines technikas taikančių žmonių neįtikina. Po metų ar dvejų tai bus pabaiga.

paslėpti