Vyras, padėjęs išrasti virtualius asistentus, mano, kad jie pasmerkti be naujo AI metodo

Ponia Tech

„Siri“, „Alexa“, „Google Home“ – technologija, kuri analizuoja kalbą, vis dažniau patenka į kasdienį gyvenimą.

Borisas Katzas MIT tyrėjas, nėra toks sužavėtas. Per pastaruosius 40 metų Katz labai prisidėjo prie mašinų kalbinių gebėjimų. Devintajame dešimtmetyje jis sukūrė PRADĖTI , sistema, galinti atsakyti į natūraliai suformuluotas užklausas. START panaudotos idėjos padėjo IBM Watson laimėti Pavojus! ir padėjo pagrindus šiandienos plepantiems dirbtiniams tarnams.

Tačiau Katzas dabar nerimauja, kad ši sritis kenčia nuo priklausomybės nuo dešimtmečių senumo idėjų ir kad šios idėjos nesuteiks mums tikro intelekto mašinų. Susitikau su juo, kad aptarčiau dabartines AI padėjėjų ribas ir išgirsčiau jo mintis apie tai, kur reikia atlikti tyrimus, jei jie kada nors taps protingesni.

Kaip susidomėjote, kad kompiuteriai naudotų kalbą?

Pirmą kartą su kompiuteriais susidūriau septintajame dešimtmetyje būdamas Maskvos universiteto bakalauro studentas. Konkreti mašina, kurią naudojau, buvo pagrindinis kompiuteris, vadinamas BESM-4. Norėdami susisiekti su juo, buvo galima naudoti tik aštuntąjį kodą. Mano pirmasis kompiuterio projektas buvo susijęs su kompiuterio mokymu skaityti, suprasti ir spręsti matematikos uždavinius.

Tada sukūriau poezijos rašymo kompiuterinę programą. Vis dar prisimenu, kaip stovėjau mašinų skyriuje ir laukiau, kol pamatysiu kitą mašinos sukurtą eilėraštį. Mane pribloškė eilėraščių grožis; atrodė, kad juos sukūrė protinga būtybė. Ir tada aš žinojau, kad visą likusį gyvenimą noriu dirbti kurdamas išmanias mašinas ir ieškodamas būdų su jomis bendrauti.

Ką manote apie „Siri“, „Alexa“ ir kitus asmeninius asistentus?

Juokinga apie tai kalbėti, nes, viena vertus, mes labai didžiuojamės šia neįtikėtina pažanga – kiekvienas savo kišenėje turi kažką, ką padėjome čia sukurti prieš daug daug metų, ir tai yra nuostabu.

SU

Tačiau, kita vertus, šios programos yra tokios neįtikėtinai kvailos. Taigi kyla pasididžiavimo ir beveik gėdos jausmas. Jūs paleidžiate kažką, kas, žmonių nuomone, yra protinga, bet tai net nėra artima.

Dėl mašininio mokymosi AI padaryta didelė pažanga. Ar tai nepaverčia mašinoms geresnių kalbų?

Viena vertus, yra ši dramatiška pažanga, o tada dalis šios pažangos yra išpūsta. Jei pažvelgsite į mašininio mokymosi pažangą, visos idėjos kilo prieš 20–25 metus. Tiesiog galiausiai inžinieriai padarė puikų darbą, kad šios idėjos taptų realybe. Ši technologija, kad ir kokia ji būtų, neišspręs tikrojo supratimo – tikrojo intelekto – problemos.

Atrodo, kad darome pažangą dirbtinio intelekto srityje, tačiau… (žr. 10 proveržio technologijų: sklandžiai kalbantys asmeniniai padėjėjai ) ?

Labai aukšto lygio šiuolaikinės technologijos – statistiniai metodai, tokie kaip mašininis mokymasis ir gilus mokymasis – labai gerai padeda rasti dėsningumus. Ir kadangi žmonės dažniausiai kuria tuos pačius sakinius, labai lengva juos rasti kalboje.

Pažiūrėkite į nuspėjamąjį tekstą. Mašina geriau už tave žino, ką tu pasakysi. Galima tai pavadinti protingu, bet tai tik žodžių ir skaičių skaičiavimas. Kadangi mes nuolat kartojame tą patį, nesunku sukurti sistemas, kurios fiksuotų dėsningumus ir veiktų taip, tarsi būtų protingos. Tai yra fiktyvus daugelio dabartinės pažangos pobūdis.

Ką jau kalbėti apie pavojingą kalbos generavimo įrankį neseniai paskelbė OpenAI ?

Šie pavyzdžiai išties labai įspūdingi, bet nesu tikras, ko jie mus moko. OpenAI kalbos modelis buvo apmokytas 8 milijonuose tinklalapių, kad būtų galima numatyti kitą žodį, atsižvelgiant į visus ankstesnius tam tikro teksto žodžius (kuris buvo ta pati tema, kaip ir modelis). Šis didžiulis mokymų kiekis neabejotinai užtikrino vietinę teksto darną (sintaksinę ir net semantinę).

Kodėl manote, kad dirbtinis intelektas kalba neteisingai?

Kalbos apdorojimo srityje, kaip ir kitose srityse, pažanga buvo pasiekta mokant modelius su didžiuliu duomenų kiekiu – daugybe milijonų sakinių. Tačiau žmogaus smegenys negalėtų išmokti kalbos, naudodamos šią paradigmą. Mes nepaliekame savo kūdikių su enciklopedija lovelėje, tikėdamiesi, kad jie mokės kalbą.

Kai ką matome, aprašome tai kalba; kai girdime ką nors apie ką nors kalbant, įsivaizduojame, kaip pasaulyje atrodo aprašyti objektai ir įvykiai. Žmonės gyvena fizinėje aplinkoje, pripildytoje vaizdinių, lytėjimo ir kalbinių jutimo įvesties, o dėl perteklinio ir vienas kitą papildančio šių įvesties pobūdį žmonių vaikai gali suvokti pasaulį ir tuo pat metu mokytis kalbos. Galbūt tyrinėdami šiuos būdus atskirai, mes problemą labiau apsunkinome, nei palengvinome?

Kodėl sveikas protas svarbus?

Pasakykite, kad jūsų robotas padeda jums susikrauti daiktus, o jūs jam sakote: ši knyga netilptų į raudoną dėžutę, nes tai Taip pat mažas. Akivaizdu, kad norite, kad jūsų robotas tai suprastų neto dėžė yra per mažas, kad galėtumėte tęsti prasmingą pokalbį. Tačiau jei pasakysite robotui: ši knyga netilptų į raudoną dėžutę, nes tai Taip pat didelis, norite, kad jūsų robotas tai suprastų knyga yra per didelis.

Žinojimas, apie kokį pokalbio esinį įvardis nurodo įvardį, yra labai dažna užduotis, kurią žmonės atlieka kiekvieną dieną, tačiau, kaip matote iš šių ir kitų pavyzdžių, dažnai tai priklauso nuo gilaus pasaulio supratimo, kuris šiuo metu nepasiekiamas. mūsų mašinų: sveiko proto ir intuityvios fizikos supratimas, kitų įsitikinimų ir ketinimų supratimas, gebėjimas įsivaizduoti ir samprotauti apie priežastį ir pasekmes ir daug daugiau.

Jūs bandote mokyti mašinas apie kalbą naudodami imituotus fizinius pasaulius. Kodėl taip?

Dar nemačiau kūdikio, kurio tėvai į lovelę įkišo enciklopediją ir sako: „Eik mokytis“. Ir tai šiandien daro mūsų kompiuteriai. Nemanau, kad šios sistemos išmoks taip, kaip mes norime, arba nesupras pasaulio taip, kaip mes norime.

Kas atsitinka su kūdikiais, jie iš karto gauna lytėjimo patirtį apie pasaulį. Tada kūdikiai pradeda matyti pasaulį ir įsisavinti įvykius bei objektų savybes. Ir tada kūdikis galiausiai išgirsta kalbinį įvestį. Ir būtent šis papildomas indėlis lemia supratimo magiją.

Kas yra geresnis požiūris?

Vienas iš būdų į priekį yra geriau suprasti žmogaus intelektą ir panaudoti tą supratimą kuriant protingas mašinas. DI tyrimai turi būti grindžiami vystymosi psichologijos, kognityvinių mokslų ir neurologijos idėjomis, o AI modeliai turėtų atspindėti tai, kas jau žinoma apie tai, kaip žmonės mokosi ir supranta pasaulį.

Tikrasis progresas bus pasiektas tik tada, kai mokslininkai išeis iš mūsų biurų ir pradės kalbėtis su kitų sričių žmonėmis. Kartu priartėsime prie intelekto supratimo ir išsiaiškinsime, kaip jį atkartoti intelektualiose mašinose, kurios gali kalbėti, matyti ir veikti mūsų fiziniame pasaulyje.

Iššūkis sukurti tikrai pažangias mašinas yra labai sunkus, tačiau tai taip pat vienas iš svarbiausių iššūkių.

paslėpti