Negalime pasitikėti dirbtinio intelekto sistemomis, sukurtomis vien tik gilaus mokymosi pagrindu

Gary Marcuso ir Ernesto Daviso AI paleidimas iš naujo „Penguin Random House“ sutikimu

Gary'io Marcuso nežavi ažiotažas apie gilų mokymąsi. Nors NYU profesorius mano, kad ši technika suvaidino svarbų vaidmenį tobulinant AI, jis taip pat mano, kad dabartinis per didelis šios srities dėmesys gali lemti jos žlugimą.

Marcusas, neuromokslininkas, savo karjerą praleidęs dirbtinio intelekto tyrimų priešakyje, nurodo technines ir etines problemas. Techniniu požiūriu gilus mokymasis gali būti geras imituojant žmogaus smegenų suvokimo užduotis, pvz., vaizdo ar kalbos atpažinimą. Tačiau jam nepavyksta atlikti kitų užduočių, pavyzdžiui, suprasti pokalbius ar priežastinius ryšius. Norint sukurti galingesnes ir plačiau pažangias mašinas, dažnai šnekamojoje kalboje vadinamas dirbtiniu bendruoju intelektu, gilus mokymasis turi būti derinamas su kitais metodais.

Kai AI sistema iš tikrųjų nesupranta savo užduočių ar aplinkinio pasaulio, tai taip pat gali sukelti pavojingų pasekmių. Net ir dėl mažiausių netikėtų pokyčių sistemos aplinkoje ji gali suklysti. Jau buvo begalė to pavyzdžių: neapykantos kalbos detektoriai, kuriuos lengva apgauti, kandidatų į darbą sistemos, įamžinančios diskriminaciją, ir savarankiškai važiuojantys automobiliai, kurie susidūrė, kartais pražudydami vairuotoją ar pėsčiąjį. Bendrojo dirbtinio intelekto ieškojimas yra daugiau nei įdomi tyrimo problema. Tai turi labai realių pasekmių.

Jų naujoje knygoje AI perkrovimas , Marcusas ir jo kolega Ernestas Davisas pasisako už naują kelią į priekį. Jie mano, kad mes toli gražu nepasieksime tokio bendro intelekto, bet jie taip pat yra įsitikinę, kad galiausiai galime to pasiekti.

Kalbėjausi su Marcusu apie gilaus mokymosi trūkumus, pamokas, kurias ši sritis gali pasiskolinti iš žmogaus proto ir kodėl jis nusiteikęs optimistiškai.

Toliau pateikta informacija buvo redaguota siekiant apimties ir aiškumo.

Kodėl mes net norime bendro intelekto? Siauras dirbtinis intelektas jau sukūrė mums daug vertės.

Gary Marcus su Gary Marcuso sutikimu

Jis turi ir sukurs dar daugiau. Tačiau yra daug problemų, kurių siauras AI tiesiog neatrodo pajėgus. Tokie dalykai kaip natūralios kalbos supratimas pokalbyje ir bendra pagalba virtualiame pasaulyje arba tokie dalykai kaip robotas Rosie, kuris gali padėti sutvarkyti namus ar paruošti vakarienę. Tai tiesiog nepatenka į tai, ką galime padaryti naudodami siaurą AI. Tai taip pat įdomus empirinis klausimas, ar siauras dirbtinis intelektas gali padėti mums pasiekti saugius automobilius be vairuotojo. Realybė kol kas tokia, kad siauras AI turi daug problemų dėl išskirtinių atvejų, net ir vairuojant, o tai yra gana suvaržyta problema.

Apskritai manau, kad visi norėtume, kad dirbtinis intelektas padėtų mums padaryti naujus didelio masto atradimus medicinoje. Neaišku, ar dabartiniai metodai nuves mus ten, kur turime būti, nes biologija yra sudėtinga. Tikrai reikia mokėti skaityti literatūrą. Mokslininkai turi priežastinį supratimą apie tinklų ir molekulių sąveiką; jie gali sukurti teorijas apie orbitas ir planetas ar bet ką. Turėdami siaurą AI negalime priversti mašinų atlikti tokio lygio naujovių. Naudodami bendrą AI, mes galime padaryti revoliuciją moksle, technologijoje ir medicinoje. Taigi manau, kad darbas prie bendro AI yra labai vertas projektas.

Panašu, kad naudojate bendrą AI, nurodydami tvirtą AI?

Bendrasis AI yra susijęs su DI gebėjimu mąstyti skrendant ir savarankiškai išspręsti naujas problemas. Tai yra priešingai, tarkime, eikite, kur problema nepasikeitė per 2000 metų.

Bendrasis dirbtinis intelektas taip pat turėtų turėti galimybę taip pat patogiai samprotauti apie politiką, kaip ir apie mediciną. Tai analogas to, ką turi žmonės; bet kuris pakankamai šviesus žmogus gali padaryti daug, daug įvairių dalykų. Jūs priimate bakalauro stažuotę ir per kelias dienas priverčiate jį iš esmės išspręsti bet ką – nuo ​​teisinės problemos iki medicininės problemos. Taip yra todėl, kad jie turi bendrą supratimą apie pasaulį ir moka skaityti, todėl gali prisidėti prie labai įvairių dalykų.

Ryšys tarp to ir tvirto intelekto yra toks, kad jei nesate tvirtas, tikriausiai tikrai nesugebėsite atlikti bendro dalyko. Taigi, norėdami sukurti kažką, kas yra pakankamai patikima, kad galėtumėte susidoroti su nuolat besikeičiančiu pasauliu, tikriausiai turite bent jau priartėti prie bendro intelekto.

Bet žinote, šiuo metu mes esame gana toli nuo to. AlphaGo gali labai gerai žaisti ant 19x19 lentos, bet iš tikrųjų jį reikia permokyti žaisti ant stačiakampės lentos. Arba pasirenkate vidutinę gilaus mokymosi sistemą ir ji gali atpažinti dramblį tol, kol dramblys yra gerai apšviestas ir matote dramblio tekstūrą. Bet jei įdėsite dramblį į siluetą, jis gali jo nebeatpažinti.

Kaip minite savo knygoje, gilus mokymasis iš tikrųjų negali pasiekti bendro AI, nes jam trūksta gilaus supratimo.

Kognityviniame moksle kalbame apie pažintinių dalykų modelių turėjimą. Taigi aš sėdžiu viešbučio kambaryje ir suprantu, kad ten yra spinta, yra lova, televizorius sumontuotas neįprastai. Žinau, kad čia yra visi šie dalykai, ir aš ne tik juos identifikuoju. Taip pat suprantu, kaip jie susiję vienas su kitu. Turiu tokių idėjų apie tai, kaip veikia išorinis pasaulis. Jie nėra tobuli. Jie klysta, bet yra gana geri. Ir aš darau daug išvadų apie juos, vadovaudamasis savo kasdieniais veiksmais.

Priešingas kraštutinumas yra kažkas panašaus į „DeepMind“ sukurtą „Atari“ žaidimų sistemą, kurioje jis įsiminė, ką reikia padaryti, matydamas pikselius tam tikrose ekrano vietose. Jei gausite pakankamai duomenų, gali atrodyti, kad supratote, bet iš tikrųjų tai labai menkas supratimas. Įrodymas yra tas, kad jei viską perkeliate trimis pikseliais, jis veikia daug prasčiau. Jis nutrūksta su pasikeitimu. Tai priešinga giliam supratimui.

Norėdami išspręsti šį iššūkį, siūlote grįžti prie klasikinio AI. Kokios yra klasikinio AI stipriosios pusės, kurias turėtume pabandyti įtraukti?

Aš tiesiog esu nustebęs, kaip mažai tai vertina giliai besimokanti bendruomenė.

Yra keli. Pirma, iš tikrųjų klasikinis AI yra kognityvinių pasaulio modelių kūrimo sistema, kurią vėliau galite padaryti išvadas. Antras dalykas yra tai, kad klasikinis AI puikiai tinka taisyklėms. Tai keista sociologija šiuo metu giliame mokymesi, kai žmonės nori vengti taisyklių. Jie nori viską daryti su neuroniniais tinklais ir nieko nedaryti su tuo, kas atrodo kaip klasikinis programavimas. Tačiau yra problemų, kurios paprastai išsprendžiamos tokiu būdu, į kurias niekas nekreipia dėmesio, pavyzdžiui, maršruto sudarymas „Google“ žemėlapiuose.

Iš tikrųjų mums reikia abiejų požiūrių. Mašininio mokymosi dalykai gana gerai mokosi iš duomenų, tačiau jie labai prastai atspindi abstrakciją, kurią reprezentuoja kompiuterinės programos. Klasikinis dirbtinis intelektas yra gana geras abstrakcijoje, tačiau visa tai turi būti užkoduota ranka, o pasaulyje yra per daug žinių, kad viską būtų galima įvesti rankiniu būdu. Taigi atrodo akivaizdu, kad tai, ko mes norime, yra tam tikra sintezė, sujungianti šiuos metodus.

Tai susiję su skyriumi, kuriame minite keletą dalykų, kurių galime pasimokyti iš žmogaus proto. Pirmasis remiasi tuo, apie ką jau kalbėjome – mintimi, kad mūsų protas susideda iš daugybės skirtingų sistemų, kurios veikia skirtingai.

Manau, kad yra ir kitas būdas pasakyti esmę: kiekviena mūsų turima pažinimo sistema iš tikrųjų daro skirtingą dalyką. Panašiai, dirbtinio intelekto analogai turi būti sukurti taip, kad galėtų spręsti skirtingas problemas, kurios turi skirtingas savybes.

Šiuo metu žmonės bando naudoti universalias technologijas, kad išspręstų iš esmės skirtingus dalykus. Sakinio supratimas iš esmės skiriasi nuo objekto atpažinimo. Tačiau žmonės bando naudoti gilų mokymąsi, kad padarytų abu. Tai kokybiškai skirtingos problemos, žvelgiant iš pažinimo perspektyvos, ir aš tiesiog esu nustebęs, kaip mažai tai vertina giliai besimokanti bendruomenė. Kodėl tikėtis, kad viena sidabrinė kulka pasitarnaus su visa tai? Tai nerealu ir neatskleidžia sudėtingo supratimo apie tai, koks yra AI iššūkis.

Kitas dalykas, kurį iškeliate, yra AI sistemų poreikis suprasti priežastinius ryšius. Ar manote, kad tai bus gilus mokymasis, klasikinis AI ar kažkas visiškai naujo?

Tai vėlgi vieta, kur gilus mokymasis nėra ypač tinkamas. Gilus mokymasis nepaaiškina, kodėl viskas vyksta, o tikimybę, kas gali nutikti tam tikromis aplinkybėmis.

Gamta sukuria pirmąją grimzlę, grubų grimzlę. Tada mokymasis peržiūri tą juodraštį visą likusį gyvenimą.

Tokie dalykai, apie kuriuos mes kalbame – žiūrite į kai kuriuos scenarijus ir suprantate, kodėl taip nutinka ir kas gali nutikti, jei tam tikri dalykai būtų pakeisti. Galiu pažvelgti į molbertą, kuriame įjungtas viešbučio televizorius, ir spėlioti, kad jei nupjausiu vieną koją, molbertas apvirs ir kartu su juo nukris televizorius. Tai yra priežastinis samprotavimas.

Klasikinis AI suteikia mums tam tikrų įrankių. Pavyzdžiui, tai gali parodyti, kas yra palaikymo santykiai ir kas žlunga. Vis dėlto nenoriu jo perparduoti. Viena iš problemų yra ta, kad klasikinis AI daugiausia priklauso nuo labai išsamios informacijos apie tai, kas vyksta, o aš ką tik padariau tokią išvadą, iš tikrųjų nematydamas viso molberto. Taigi aš kažkaip galiu padaryti nuorodas, numanydamas molberto dalis, kurių net nematau. Dar tikrai neturime įrankių, galinčių tai padaryti.

Trečias dalykas, kurį keliate, yra idėja, kad žmonės turi įgimtų žinių. Kaip manote, kad tai įtraukta į AI sistemas?

Žmonėms, kai gimstate, jūsų smegenys iš tikrųjų yra labai įmantrios struktūros. Tai nėra nustatyta, bet gamta sukuria pirmąjį projektą, grubų projektą. Tada mokymasis peržiūri tą juodraštį visą likusį gyvenimą.

Grubus smegenų skersvėjis jau turi tam tikrų galimybių. Vos kelių valandų amžiaus ožkų jauniklis gali neklysdamas nusileisti kalno plokštuma. Akivaizdu, kad jis šiek tiek supranta trimatę erdvę, savo kūną ir jų tarpusavio ryšį. Gana sudėtingi dalykai.

Dėl šios priežasties manau, kad mums reikia hibridų. Sunku suprasti, kaip galėtume sukurti pasaulyje gerai funkcionuojantį robotą be analogiškų žinių nuo pat pradžių, o ne pradėti nuo tuščio lapo ir mokytis iš didžiulės, didžiulės patirties.

Žmonėms mūsų įgimtos žinios kyla iš mūsų genomų, kurie laikui bėgant išsivystė. Dirbtinio intelekto sistemoms jos turi būti kitokios. Kai kurie iš jų gali kilti iš taisyklių, susijusių su mūsų algoritmų kūrimu. Dalis jų gali kilti dėl taisyklių, kaip sukuriame duomenų struktūras, kuriomis manipuliuoja tie algoritmai. Ir tada dalis to gali kilti iš žinojimo, kad mes tiesiog tiesiogiai mokome mašinas.

Įdomu tai, kad viską savo knygoje siejate su pasitikėjimo idėja ir patikimų sistemų kūrimu. Kodėl būtent šį rėmelį pasirinkote?

Nes manau, kad šiuo metu tai yra visas žaidimas. Manau, kad gyvename keistu istorijos momentu, kai labai pasitikime programine įranga, kuri to pasitikėjimo nenusipelno. Manau, kad rūpesčiai, kuriuos turime dabar, nėra nuolatiniai. Po šimto metų AI garantuos mūsų pasitikėjimą – o gal ir greičiau.

Tačiau šiuo metu dirbtinis intelektas yra pavojingas, o ne taip, kaip nerimauja Elonas Muskas. Tačiau darbo pokalbių sistemose, kurios diskriminuoja moteris, nesvarbu, ką daro programuotojai, nes jų naudojamos technikos yra per daug neįmantrios.

Noriu, kad turėtume geresnį AI. Nenoriu, kad sulauktume dirbtinio intelekto žiemos, kai žmonės suprastų, kad tai neveikia ir yra pavojinga, ir jie nieko nedaro.

Tam tikra prasme jūsų knyga iš tikrųjų atrodo labai optimistiška, nes jūs teigiate, kad įmanoma sukurti patikimą AI. Tiesiog turime pažvelgti kita kryptimi.

Tiesa, knyga yra labai trumpalaikė pesimistinė ir labai ilgalaikė optimistinė. Manome, kad kiekviena problema, kurią aprašėme knygoje, gali būti išspręsta, jei šioje srityje būtų plačiau pažiūrėta, kokie yra teisingi atsakymai. Ir mes manome, kad jei taip atsitiks, pasaulis bus geresnė vieta.

Jei norite, kad daugiau tokių istorijų būtų pristatyta tiesiai į jūsų pašto dėžutę, užsiprenumeruokite Webby nominuotą AI informacinį biuletenį The Algorithm. Tai nemokama.

paslėpti