Ko dirbtinis intelektas vis dar negali padaryti

Dirbtinis intelektas nebus labai protingas, jei kompiuteriai nesuvoks priežasties ir pasekmės. Dėl to net žmonės turi problemų. Autorius

• Brianas Bergsteinas archyvo puslapis

2020 m. vasario 19 d

Saiman Chow

Per mažiau nei dešimtmetį kompiuteriai tapo itin gerais diagnozuojant ligas, verčiant kalbas ir perrašant kalbą. Jie gali aplenkti žmones sudėtinguose strateginiuose žaidimuose, kurti fotorealistiškus vaizdus ir pasiūlyti naudingų atsakymų į jūsų el. laiškus.

Tačiau nepaisant šių įspūdingų laimėjimų, dirbtinis intelektas turi akivaizdžių trūkumų.

Ši istorija buvo mūsų 2020 m. kovo mėnesio numerio dalis

• Žr. likusią numerio dalį
• Prenumeruoti

Mašininio mokymosi sistemos gali būti apgaudinėjamos arba supainiotos dėl situacijų, kurių jos dar nematė. Savaeigį automobilį sukrečia toks scenarijus, kurį vairuotojas gali lengvai susitvarkyti. Dirbtinio intelekto sistema, sunkiai išmokyta atlikti vieną užduotį (tarkim, kačių atpažinimas), turi būti iš naujo mokoma daryti ką nors kita (nustatyti šunis). Proceso metu ji gali prarasti dalį patirties, kurią turėjo atliekant pradinę užduotį. Kompiuterių mokslininkai šią problemą vadina katastrofišku pamiršimu.

Šie trūkumai turi kažką bendro: jie egzistuoja, nes AI sistemos nesupranta priežastinio ryšio. Jie mato, kad kai kurie įvykiai yra susiję su kitais įvykiais, tačiau jie neįsitikina, kurie dalykai tiesiogiai lemia kitus dalykus. Tarsi žinotumėte, kad dėl debesų lietaus tikimybė yra didesnė, bet nežinojote, kad debesys sukelia lietų.

Eliasas Bareinboimas: AI sistemos neturi supratimo, kai kalbama apie priežastinį ryšį.

Priežasties ir pasekmės supratimas yra didelis aspektas to, ką vadiname sveiku protu, ir tai yra sritis, kurioje AI sistemos šiandien yra bejėgės, sako Eliasas Bareinboimas. Jis turėtų žinoti: kaip naujosios Kolumbijos universiteto priežastinio dirbtinio intelekto laboratorijos direktorius, jis yra pastangų išspręsti šią problemą priešakyje.

Jo idėja yra įkvėpti dirbtinio intelekto tyrimus įžvalgomis iš santykinai naujo priežastingumo mokslo – šios srities didžiąja dalimi suformavo Judea Pearl, Turingo apdovanojimą pelniusi mokslininkė, Bareinboimą laikanti savo protege.

Kaip apibūdina Bareinboimas ir Pearl, AI gebėjimas pastebėti sąsajas, pvz., kad debesys padidina lietaus tikimybę, yra tik paprasčiausias priežastinio samprotavimo lygis. Tai pakankamai gerai, kad per pastarąjį dešimtmetį paskatino AI technikos, žinomos kaip gilus mokymasis, bumą. Turint daug duomenų apie pažįstamas situacijas, šis metodas gali lemti labai geras prognozes. Kompiuteris gali apskaičiuoti tikimybę, kad pacientas su tam tikrais simptomais susirgs tam tikra liga, nes sužinojo, kaip dažnai tūkstančiai ar net milijonai kitų žmonių, turinčių tuos pačius simptomus, sirgo šia liga.

Tačiau vis labiau sutariama, kad dirbtinio intelekto pažanga sustos, jei kompiuteriai nepadės geriau kovoti su priežastiniu ryšiu. Jei mašinos galėtų suvokti, kad tam tikri dalykai veda į kitus dalykus, joms nereikėtų visą laiką visko mokytis iš naujo – jos galėtų perimti tai, ką išmoko vienoje srityje, ir pritaikyti kitoje. Ir jei mašinos galėtų vadovautis sveiku protu, galėtume labiau pasitikėti jomis, kad imtųsi veiksmų savarankiškai, žinodami, kad jie greičiausiai nepadarys kvailų klaidų.

Šiandieninis AI turi tik ribotą galimybę daryti išvadą, kas bus dėl konkretaus veiksmo. Mokydamasi sustiprinimo, technikos, leidžiančios mašinoms valdyti tokius žaidimus kaip šachmatai ir „Go“, sistema naudoja daug bandymų ir klaidų, kad nustatytų, kurie ėjimai iš esmės privers juos laimėti. Tačiau realiame pasaulyje šis metodas neveikia sudėtingesniuose nustatymuose. Tai net nepalieka mašinos bendro supratimo, kaip jis gali žaisti kitus žaidimus.

Dar aukštesnis priežastinio mąstymo lygis būtų gebėjimas samprotauti, kodėl viskas atsitiko, ir užduoti klausimus, kas būtų, jei. Pacientas miršta klinikinio tyrimo metu; ar tai buvo eksperimentinės medicinos kaltė ar kažkas kita? Mokyklinių testų balai krenta; kokie politikos pakeitimai juos labiausiai pagerintų? Toks samprotavimas gerokai pranoksta dabartines dirbtinio intelekto galimybes.

Stebuklų darymas

Svajonė aprūpinti kompiuterius priežastiniais samprotavimais atviliojo Bareinboimą iš Brazilijos į JAV 2008 m., kai baigė informatikos magistro studijas Rio de Žaneiro federaliniame universitete. Jis pasinaudojo galimybe studijuoti pas Judea Pearl, kompiuterių mokslininkę ir statistiką UCLA. 83 metų Pearl yra milžinas į milžiniškas – priežastinių išvadų, o jo karjera padeda iliustruoti, kodėl sunku sukurti AI, suprantantį priežastinį ryšį.

Net gerai apmokyti mokslininkai linkę neteisingai interpretuoti koreliacijas kaip priežastinio ryšio požymius arba klysti priešinga kryptimi, nedvejodami įvardinti priežastinį ryšį net tada, kai tai pagrįsta. Pavyzdžiui, šeštajame dešimtmetyje keletas žinomų statistikų drumstė vandenis, ar tabakas sukelia vėžį. Jie tvirtino, kad be eksperimento, atsitiktinai priskiriant žmones rūkančiais ar nerūkančiais, niekas negalėtų atmesti galimybės, kad kažkoks nežinomas stresas, galbūt koks nors genas, paskatino žmones rūkyti ir susirgti plaučių vėžiu.

Galiausiai faktas, kad rūkymas sukelia vėžį, buvo galutinai nustatytas, bet tai neturėjo užtrukti tiek ilgai. Nuo tada Pearl ir kiti statistikai sukūrė matematinį metodą, kaip nustatyti, kokių faktų reikėtų norint pagrįsti priežastinį teiginį. Pearl metodas rodo, kad, atsižvelgiant į rūkymo ir plaučių vėžio paplitimą, nepriklausomas veiksnys, sukeliantis abu, būtų labai mažai tikėtinas.

Ir atvirkščiai, Pearl formulės taip pat padeda nustatyti, kada koreliacijos negali būti naudojamos priežastiniam ryšiui nustatyti. Bernhardas Schölkopfas, tyrinėjantis priežastinius AI metodus kaip Vokietijos Maxo Plancko intelektualių sistemų instituto direktorius, pabrėžia, kad galite numatyti šalies gimstamumą, jei žinote gandrų populiaciją. Taip yra ne todėl, kad gandrai pagimdo kūdikius ar todėl, kad kūdikiai vilioja gandrus, o tikriausiai todėl, kad dėl ekonomikos vystymosi atsiranda daugiau kūdikių ir daugiau gandrų. „Pearl“ padėjo statistikams ir kompiuterių mokslininkams kovoti su tokiomis problemomis, sako Schölkopfas.

Judea Pearl: Jo priežastinių samprotavimų teorija pakeitė mokslą.

Pearl darbas taip pat paskatino sukurti priežastinius Bajeso tinklus – programinę įrangą, kuri sijoja didelius duomenų kiekius, kad nustatytų, kurie kintamieji daro didžiausią įtaką kitiems kintamiesiems. Pavyzdžiui, GNS Healthcare, įmonė Kembridže, Masačusetso valstijoje, naudoja šiuos metodus, kad patartų mokslininkams apie daug žadančius eksperimentus.

Viename projekte GNS dirbo su tyrėjais, tiriančiais daugybinę mielomą – kraujo vėžio rūšį. Tyrėjai norėjo sužinoti, kodėl kai kurie šia liga sergantys pacientai gyvena ilgiau nei kiti po kamieninių ląstelių transplantacijos, kuri yra įprasta gydymo forma. Programinė įranga apžvelgė duomenis su 30 000 kintamųjų ir nurodė keletą, kurie atrodė ypač linkę turėti priežastinį ryšį. Biostatistai ir šios ligos ekspertai atkreipė dėmesį į vieną: tam tikro baltymo lygį pacientų organizme. Tada mokslininkai galėtų atlikti tikslinį klinikinį tyrimą, kad išsiaiškintų, ar baltymą turintys pacientai iš tiesų gavo daugiau naudos iš gydymo. Tai daug greičiau nei kištis čia ir ten laboratorijoje, sako GNS įkūrėja Iya Khalil.

Nepaisant to, Pearl ir kitų mokslininkų pasiekti patobulinimai priežastinio ryšio teorijoje dar nepadėjo gilaus mokymosi, kuris nustato koreliacijas per daug nesijaudinant dėl ​​priežastingumo. Bareinboimas stengiasi žengti kitą žingsnį: padaryti kompiuterius naudingesniais įrankiais žmonių priežastiniams tyrimams.

Pearl sako, kad dirbtinis intelektas negali būti iš tikrųjų protingas, kol neturės išsamaus priežasties ir pasekmės supratimo, o tai įgalintų savistabą, kuri yra pažinimo pagrindas.

Viena iš jo sistemų, kuri vis dar yra beta versijos, gali padėti mokslininkams nustatyti, ar jie turi pakankamai duomenų atsakyti į priežastinį klausimą. Maxo Plancko evoliucinės antropologijos instituto antropologas Richardas McElreathas naudoja programinę įrangą, kad nustatytų, kodėl žmonės patiria menopauzę (mes esame vienintelės beždžionės).

Hipotezė yra ta, kad vyresnio amžiaus moterų vaisingumo mažėjimas buvo naudingas ankstyvosioms žmonių visuomenėms, nes moterys, kurios įdėjo daugiau pastangų rūpindamosi anūkais, galiausiai susilaukė daugiau palikuonių. Tačiau kokie šiandien gali būti įrodymai, patvirtinantys teiginį, kad vaikams geriau sekasi, kai šalia yra seneliai? Antropologai negali tik palyginti su seneliais gyvenusių ir negyvenusių vaikų išsilavinimo ar medicininių rezultatų. Yra tai, ką statistikai vadina klaidinančiomis aplinkybėmis: močiutės gali gyventi su anūkais, kuriems reikia labiausiai pagalbos. Bareinboimo programinė įranga gali padėti McElreathui išsiaiškinti, kurie tyrimai apie vaikus, užaugusius su seneliais, yra mažiausiai supainioti su painiavomis ir gali būti vertingi atsakant į jo priežastinį ryšį. McElreathas sako, kad tai didžiulis žingsnis į priekį.

Paskutinė mylia

Bareinboimas kalba greitai ir dažnai gestikuliuoja iškėlęs į orą dviem rankomis, tarsi jis bandytų subalansuoti dvi psichikos lygties puses. Buvo įpusėjus semestrui, kai lankiausi jį Kolumbijoje spalio mėnesį, bet atrodė, kad jis vos persikėlė į savo biurą – beveik nieko ant sienų, jokių knygų lentynose, tik aptakus „Mac“ kompiuteris ir tokia tanki lenta. su lygtimis ir diagramomis, kad tai atrodė kaip detalė iš animacinio filmo apie išprotėjusį profesorių.

Jis gūžtelėjo pečiais apie laikiną kambario būklę, sakydamas, kad buvo labai užsiėmęs kalbomis apie abi priežastinės revoliucijos puses. Bareinboimas mano, kad toks darbas kaip jo suteikia galimybę ne tik įtraukti priežastinį mąstymą į mašinas, bet ir patobulinti jį žmonėms.

Jis sako, kad priversti žmones atidžiau galvoti apie priežastinį ryšį nebūtinai yra daug lengviau nei išmokyti to mašinoms. Įvairių disciplinų, nuo molekulinės biologijos iki viešosios politikos, tyrinėtojai kartais patenkinti atranda koreliacijas, kurios iš tikrųjų nėra susijusios su priežastiniais ryšiais. Pavyzdžiui, kai kurie tyrimai rodo, kad alkoholio vartojimas anksti nužudys jus, o kiti rodo, kad saikingas vartojimas yra gerai ir netgi naudingas, o dar kiti tyrimai parodė, kad daug geriantys žmonės išgyvena ilgiau nei negeriantys. Šis reiškinys, žinomas kaip atkuriamumo krizė, išryškėja ne tik medicinoje ir mityboje, bet ir psichologijoje bei ekonomikoje. Jūs galite pamatyti visų šių išvadų trapumą, sako Bareinboimas. Kas porą metų keičiame rezultatus.

Jis teigia, kad kiekvienas, kuris klausia, kas būtų, jei – medicinos tyrėjai, rengiantys klinikinius tyrimus, socialiniai mokslininkai, kuriantys bandomąsias programas, net žiniatinklio leidėjai, ruošiantys A/B testus, – turėtų pradėti ne tik rinkti duomenis, bet naudoti Pearl priežastinę logiką ir programinę įrangą, pvz., Bareinboim, kad nustatytų, ar turimi duomenys galbūt galėtų atsakyti į priežastinę hipotezę. Galų gale jis įsivaizduoja, kad tai veda prie automatizuotos mokslininkų programinės įrangos: žmogus gali susapnuoti priežastinį klausimą, kurį reikia atsakyti, o programinė įranga derins priežastinių išvadų teoriją su mašininio mokymosi metodais, kad būtų išvengta eksperimentų, kurie neatsakytų į šį klausimą. Tai gali išgelbėti mokslininkus nuo daugybės brangių aklagatvių.

Bareinboimas aprašė šią viziją, kai sėdėjome MIT Sloano vadybos mokyklos fojė, po pokalbio, kurį jis pasakė praėjusį rudenį. Mes čia, MIT, turime pastatą, kuriame, nežinau, yra 200 žmonių, sakė jis. Kaip tie socialiniai mokslininkai ar bet kurie mokslininkai bet kur nusprendžia, kuriuos eksperimentus atlikti ir kokius duomenų taškus rinkti? Vadovaudamiesi savo intuicija: remdamiesi dabartiniu supratimu, jie bando pamatyti, kur viskas nuves.

Jis sakė, kad tai iš prigimties ribotas požiūris, nes eksperimentą rengiantys žmonių mokslininkai vienu metu gali turėti omenyje tik keletą kintamųjų. Kita vertus, kompiuteris gali matyti šimtų ar tūkstančių kintamųjų sąveiką. Užkoduotas pagal pagrindinius Pearl priežastinio skaičiavimo principus ir galintis apskaičiuoti, kas gali nutikti su naujais kintamųjų rinkiniais, automatizuotas mokslininkas galėtų tiksliai pasiūlyti, kuriems eksperimentams žmonių tyrinėtojai turėtų skirti savo laiką. Galbūt kai kuri viešoji politika, kuri, kaip buvo įrodyta, veikia tik Teksase, galėtų būti pritaikyta Kalifornijoje, jei būtų geriau įvertinti keli priežastiniai veiksniai. Mokslininkai daugiau nedarytų eksperimentų tamsoje, sakė Bareinboimas.

Jis taip pat nemano, kad tai taip toli: tai paskutinė mylia iki pergalės.

Kas, jeigu?

Norint užbaigti tą mylią, tikriausiai reikės technikos, kuri tik pradedama kurti. Pavyzdžiui, Yoshua Bengio, kompiuterių mokslininkas iš Monrealio universiteto, pasidalijęs 2018 m. Turingo apdovanojimu už darbą giluminio mokymosi srityje, bando priversti neuroninius tinklus – giliojo mokymosi pagrindą – programinę įrangą, kad jie atliktų metamokymąsi ir pastebėtų. dalykų priežastys.

Dabartinėmis sąlygomis, jei norėtumėte, kad neuroninis tinklas aptiktų, kada žmonės šoka, parodytumėte jam daugybę šokėjų vaizdų. Jei norėtumėte, kad jis atpažintų, kai žmonės bėga, parodytumėte daugybę bėgikų vaizdų. Sistema išmoktų atskirti bėgikus nuo šokėjų, nustatydama požymius, kurie dažniausiai skiriasi vaizduose, pavyzdžiui, žmogaus rankų ir rankų padėtis. Tačiau Bengio pabrėžia, kad pagrindinių žinių apie pasaulį galima įgyti analizuojant dalykus, kurie yra panašūs arba nekintami duomenų rinkiniuose. Galbūt neuroninis tinklas galėtų sužinoti, kad kojų judesiai fiziškai sukelia ir bėgimą, ir šokį. Galbūt pamačiusi šiuos ir daugelį kitų pavyzdžių, kuriuose žmonės rodomi vos už kelių pėdų nuo žemės, mašina galų gale ką nors supras apie gravitaciją ir kaip ji riboja žmogaus judėjimą. Laikui bėgant, pakankamai išmokus meta-mokymosi apie kintamuosius, kurie yra nuoseklūs visuose duomenų rinkiniuose, kompiuteris gali įgyti priežastinių žinių, kurias būtų galima pakartotinai panaudoti daugelyje sričių.

Savo ruožtu Pearl sako, kad dirbtinis intelektas negali būti tikrai protingas, kol neturės išsamaus priežasties ir pasekmės supratimo. Nors priežastinių samprotavimų nepakaktų dirbtiniam bendram intelektui, jis yra būtinas, nes jis įgalintų savistabą, kuri yra pažinimo pagrindas. O kas, jei klausimai yra mokslo, moralinių nuostatų, laisvos valios, sąmonės statybinės medžiagos, – man pasakė Pearl.

Negalite priversti Pearl nuspėti, kiek laiko užtruks, kol kompiuteriai įgis galingų priežastinių priežasčių. Aš nesu ateitininkas, sako jis. Tačiau bet kuriuo atveju, jo nuomone, pirmiausia reikėtų sukurti mašininio mokymosi priemones, kurios sujungtų duomenis su turimomis mokslinėmis žiniomis: turime daug žinių, slypinčių žmogaus kaukolėje, kurios nenaudojamos.

Brianas Bergsteinas, buvęs MIT Technology Review redaktorius, yra Boston Globe nuomonių redaktoriaus pavaduotojas.

paslėpti