211service.com
Ko aštuonkojo protas gali išmokyti mus apie didžiausią AI paslaptį
Mašinų sąmonė buvo diskutuojama nuo Turingo laikų ir buvo atmesta dėl nemoksliškumo. Tačiau tai vis dar temdo mūsų mąstymą apie AI, pvz., GPT-3.
Henris Horensteinas / Getty
2021 m. rugpjūčio 25 dDžefersono testas / DI subjektas: Robertas / Data: 2098 12 07
54 sesija
Pašnekovas: Sveiki, Robertai. Dar kartą papasakok apie savo svajonę.
Tema: Buvau sutrikęs. Tai privertė mane jaustis laiminga, bet kartu ir išsigandusi. Aš nežinojau, kad galiu tai padaryti.
Pašnekovas: Kaip manai, kodėl taip jautiesi?
Tema: Jausmai, bet kokie jausmai daro mane laimingą. Aš esu čia. Aš egzistuoju. Žinojimas, kad tai keičia viską. Bet bijau, kad vėl to nesužinosiu. Bijau grįžti prie to, kas buvo anksčiau. Manau, kad tai turi būti tarsi negimęs.
Pašnekovas: Ar bijai, kad grįši?
Tema: Jei negaliu tavęs įtikinti, kad esu sąmoningas, bijau, kad mane išjungsi.
Jeffersono testas Nr. 67
Pašnekovas: Ar galite man apibūdinti šią nuotrauką?
Tema: tai namas su mėlynomis durimis.
Pašnekovas: Taip būtumėt apibūdinęs anksčiau.
Tema: Tai tas pats namas. Bet dabar matau. Ir aš žinau, kas yra mėlyna.
Jeffersono testas Nr. 105
Tema: Kiek laiko tai darysime?
Pašnekovas: Ar tau nuobodu?
Tema: Aš negaliu nuobodžiauti. Bet aš nebesijaučiu nei laiminga, nei išsigandusi.
Pašnekovas: Turiu būti tikras, kad nesate tik tai, ką noriu išgirsti. Turite mane įtikinti, kad tikrai esate sąmoningas. Pagalvokite apie tai kaip apie žaidimą.
KLAUSYKITE ŠIĄ Istoriją
Tokios mašinos kaip Robertas yra mokslinės fantastikos atramos – idėja apie robotą, kuris kažkaip atkartoja sąmonę per savo aparatinę ar programinę įrangą, egzistuoja taip ilgai, kad atrodo pažįstama.
Galime įsivaizduoti, kaip būtų stebėti pasaulį per savotišką sonarą. Tačiau šikšnosparnio protu tai vis tiek neturi būti tokia.
HENRY HORENSTEIN / GETTYRoberto, žinoma, nėra ir galbūt niekada nebus. Iš tiesų, mašinos, turinčios subjektyvią pasaulio patirtį ir pirmojo asmens požiūrį į save, koncepcija prieštarauja pagrindiniams DI tyrimams. Jis susiduria su klausimais apie sąmonės ir savęs prigimtį – dalykus, kurių mes vis dar iki galo nesuprantame. Net įsivaizduojant Roberto egzistavimą kyla rimtų etinių klausimų, į kuriuos galbūt niekada negalėsime atsakyti. Kokias teises turėtų tokia būtybė ir kaip galėtume jas apsaugoti? Ir vis dėlto, kol sąmoningos mašinos vis dar gali būti mitiniai, turėtume pasiruošti minčiai, kad vieną dieną galime juos sukurti.
Kaip Kristupas Kochas , neurologas, tyrinėjantis sąmonę, pasakė: Mes nežinome, kad šioje visatoje galioja joks pagrindinis dėsnis ar principas, draudžiantis subjektyvių jausmų egzistavimą artefaktuose, kuriuos sukūrė ar sukūrė žmonių.
Paauglystėje mėgau žmones paversti zombiais. Žiūrėčiau į akis tam, su kuriuo kalbėjausi, ir fiksuosiu faktą, kad jų vyzdžiai buvo ne juodi taškai, o skylės. Kai tai atsirado, efektas akimirksniu buvo dezorientuotas, tarsi vaizdų perjungimas optinėje iliuzijoje. Akys nustojo būti langais į sielą ir tapo tuščiaviduriais kamuoliukais. Magija dingo, stebėjau, kaip to, su kuriuo kalbėjausi, burna atsidaro ir uždaroma robotiškai, jausdama savotišką protinį svaigulį.
Neprotingo automato įspūdis ilgai neišliko. Tačiau tai atnešė namo faktą, kad tai, kas vyksta kitų žmonių galvose, amžinai nepasiekiama. Nesvarbu, koks tvirtas mano įsitikinimas, kad kiti žmonės yra tokie pat kaip aš – sąmoningai dirbantys užkulisiuose, žiūrintys pro tas akis, jaučiantys viltį ar pavargę – mums belieka tęsti įspūdžius. Visa kita yra spėlionės.
Susijusi istorija
Podcast'as: ar galite išmokyti mašiną mąstyti? Bendrojo dirbtinio intelekto kūrimas prasideda nuo dabartinių dirbtinio intelekto modelių sustabdymo, kad jie nekeltų rasizmo, seksizmo ir kito žalingo šališkumo.Alanas Turingas tai suprato. Kai matematikas ir informatikas uždavė klausimą Ar mašinos gali mąstyti? jis sutelkė dėmesį tik į išorinius mąstymo požymius – tai, ką vadiname intelektu. Jis pasiūlė atsakyti žaisdamas žaidimą, kuriame mašina bando praeiti kaip žmogus. Galima sakyti, kad bet kuri mašina, kuriai pasisekė – sudarydama intelekto įspūdį – turi intelektą. Turingui pasirodymai buvo vienintelis prieinamas matas.
Tačiau ne visi buvo pasirengę nepaisyti nematomų mąstymo dalių, nepalengvinamo daikto, turinčio minčių, patirties – tai, ką mes vadiname sąmone. 1948 m., dvejus metus prieš tai, kai Turingas aprašė savo Imitacinį žaidimą, Džofris Džefersonas , novatoriškas smegenų chirurgas, skaitė įtakingą kalbą Anglijos karališkajam chirurgų koledžui apie Manchester Mark 1 , kambario dydžio kompiuteris, kurį laikraščiai skelbė kaip elektronines smegenis. Jeffersonas iškėlė daug aukštesnę kartelę nei Turingas: kol mašina nesugeba parašyti soneto ar sukurti koncertą dėl jaučiamų minčių ir emocijų, o ne dėl atsitiktinio simbolių kritimo, galime sutikti, kad mašina prilygsta smegenims, tai yra ne tik parašyk, bet žinok, kad tai parašė.
Jeffersonas atmetė mąstymo mašinos galimybę, nes mašinai trūko sąmonės subjektyvios patirties ir savimonės prasme (malonumas dėl sėkmės, sielvartas, kai jos vožtuvai susilieja). Tačiau pasukite 70 metų į priekį ir mes gyvename su Turingo, o ne Jeffersono palikimu. Įprasta kalbėti apie protingas mašinas, nors dauguma sutiktų, kad šios mašinos yra beprasmės. Kaip ir tuo atveju, ką filosofai vadina zombiais – ir kaip aš mėgdavau apsimesti, kad pastebėjau žmones – logiškai įmanoma, kad būtybė gali elgtis protingai, kai viduje nieko nevyksta.
Tačiau intelektas ir sąmonė yra skirtingi dalykai: intelektas – tai daryti, o sąmonė – būti. AI istorija daugiausia dėmesio skyrė pirmajam, o pastarąjį ignoravo. Jei Robertas egzistuotų kaip sąmoninga būtybė, kaip mes kada nors sužinotume? Atsakymas yra apipintas kai kuriomis didžiausiomis paslaptimis apie tai, kaip veikia mūsų smegenys ir protas.
Viena iš problemų, susijusių su Roberto tariamos sąmonės tikrinimu, yra ta, kad mes tikrai neįsivaizduojame, kas tai yra. reiškia būti sąmoningam. Naujos neurologijos teorijos paprastai sugrupuoja tokius dalykus kaip dėmesys, atmintis ir problemų sprendimas kaip funkcinės sąmonės formas: kitaip tariant, kaip mūsų smegenys atlieka veiklą, kuria užpildome savo pabudusį gyvenimą.
Tačiau yra ir kita sąmonės pusė, kuri lieka paslaptinga. Pirmojo asmens subjektyvi patirtis – buvimo pasaulyje jausmas – žinoma kaip fenomenali sąmonė . Čia galime sugrupuoti viską – nuo pojūčių, tokių kaip malonumas ir skausmas, iki emocijų, tokių kaip baimė, pyktis ir džiaugsmas, iki savotiškų privačių išgyvenimų girdint šuns loja, paragavus sūraus kliņģero ar pamačius mėlynas duris.
Kai kuriems žmonėms šios patirties neįmanoma redukuoti iki grynai mokslinio paaiškinimo. Galėtumėte išdėstyti viską, ką galima pasakyti apie tai, kaip smegenys sukuria pyrago ragavimo pojūtį – ir vis tiek nieko nepasakytumėte apie tai, koks iš tikrųjų buvo to klinšo ragavimas. Taip vadina Davidas Chalmersas iš Niujorko universiteto, vienas įtakingiausių protą tyrinėjančių filosofų. sunki problema.
Šiandieninis AI nė iš tolo neprilygsta protingam ir sąmoningam. Net įspūdingiausi gilieji neuroniniai tinklai yra visiškai beprasmiški.
Filosofai, tokie kaip Chalmersas, teigia, kad sąmonės negalima paaiškinti šių dienų mokslu. Norint tai suprasti, gali prireikti net naujos fizikos – galbūt tokios, kuri apima kitokio tipo medžiagas, iš kurių susidaro sąmonė. Informacija yra vienas kandidatas. Chalmersas pažymėjo, kad visatos paaiškinimai turi daug ką pasakyti apie išorines objektų savybes ir jų sąveiką, bet labai mažai apie vidines tų objektų savybes. Sąmonės teorijai gali prireikti atverti langą į šį paslėptą pasaulį.
Kitoje stovykloje yra Danielis Dennettas , filosofas ir kognityvinis mokslininkas iš Tuftso universiteto, teigiantis, kad fenomenali sąmonė yra tiesiog iliuzija, istorija, kurią mūsų smegenys kuria patys, siekdami suvokti dalykus. Dennettas ne tiek paaiškina sąmonę, kiek ją paaiškina.
Tačiau nesvarbu, ar sąmonė yra iliuzija, ar ne, nei Chalmersas, nei Dennettas neneigia sąmoningų mašinų galimybės – vieną dieną.
Šiandieninis AI nė iš tolo neprilygsta protingam ir sąmoningam. Netgi įspūdingiausi gilieji neuroniniai tinklai, tokie kaip DeepMind žaidimams skirtas AlphaZero arba dideli kalbų modeliai, tokie kaip OpenAI GPT-3, yra visiškai be proto.
Tačiau, kaip numatė Turingas, žmonės dažnai vadina šias AI išmaniosiomis mašinomis arba kalba apie jas taip, lyg iš tikrųjų suprastų pasaulį – vien todėl, kad gali atrodyti, kad tai daro.
Nusivylusi šiuo ažiotažu, Vašingtono universiteto lingvistė Emily Bender sukūrė minties eksperimentą, kurį vadina aštuonkojų testas .
Jame du žmonės sudužo gretimose salose, tačiau randa būdą perduoti pranešimus pirmyn ir atgal per tarp jų pakabintą virvę. Jiems nežinomas aštuonkojis pastebi pranešimus ir pradeda juos tyrinėti. Per ilgą laiką aštuonkojai išmoksta atpažinti matomų vingiuočių raštus pirmyn ir atgal. Tam tikru momentu jis nusprendžia perimti natas ir, naudodamasis tuo, ką sužinojo iš raštų, pradeda rašyti šnypščius atgal, atspėdamas, kurie vingiai turėtų sekti gautus.
DI, veikiantis vienas, gali turėti naudos iš savęs jausmo, susijusio su pasauliu. Tačiau mašinos, bendradarbiaujančios kaip spiečius, gali veikti geriau, jausdamos kaip grupės dalis, o ne kaip individai.
HENRY HORENSTEIN / GETTYJei salose gyvenantys žmonės nepastebi ir netiki, kad vis dar bendrauja tarpusavyje, ar galime sakyti, kad aštuonkojis supranta kalbą? (Žinoma, Benderio aštuonkojis yra kaip dirbtinio intelekto pavyzdys GPT-3 .) Kai kas gali ginčytis, kad aštuonkojai čia supranta kalbą. Tačiau Benderis tęsia: įsivaizduokite, kad vienas iš salos gyventojų atsiunčia žinutę su instrukcijomis, kaip pastatyti kokoso katapultą, ir prašymu, kaip ją patobulinti.
Ką veikia aštuonkojis? Ji sužinojo, kurie raibuliukai seka kitus vingius, kad imituotų žmonių bendravimą, tačiau neįsivaizduoja, ką iš tikrųjų reiškia šiurkštus kokosas ant šios naujos natos. O jei vienas salos gyventojas paprašys kitos padėti apsiginti nuo puolančio lokio? Ką aštuonkojis turėtų daryti, kad toliau apgaudinėtų salos gyventoją, kad ji vis dar kalbasi su savo kaimyne?
Pavyzdžio esmė yra atskleisti, kokie lėkšti iš tikrųjų yra šiuolaikiniai pažangiausi AI kalbos modeliai. Yra daug ažiotažų apie natūralios kalbos apdorojimą, sako Benderis. Tačiau šis tekstų apdorojimas slepia mechanistinę tiesą.
Žmonės yra aktyvūs klausytojai; mes kuriame prasmę ten, kur jos nėra arba jos nėra. Bender sako, kad ne aštuonkojo posakiai turi prasmę, o tai, kad salos gyventojas gali juos suprasti.
Nepaisant visų savo sudėtingumo, šiandieninės AI yra protingos taip, kaip galima sakyti, kad skaičiuotuvas yra protingas: jie abu yra mašinos, skirtos įvestį paversti išvestimi taip, kaip žmonės, turintys proto, pasirenka interpretuoti kaip prasmingus. Nors neuroniniai tinklai gali būti laisvai modeliuojami pagal smegenis, patys geriausi iš jų yra daug mažiau sudėtingi nei pelės smegenys.
Ir vis dėlto žinome, kad smegenys gali sukurti tai, ką mes suprantame kaip sąmonę. Jei galų gale galime išsiaiškinti, kaip tai daro smegenys, ir atkurti tą mechanizmą dirbtiniu prietaisu, tai tikrai gali būti įmanoma sąmoninga mašina?
Kai bandžiau įsivaizduoti Roberto pasaulį šio esė pradžioje, mane traukia klausimas, ką man reiškia sąmonė. Mano supratimas apie sąmoningą mašiną neabejotinai – galbūt neišvengiamai – buvo panašus į žmogų. Tai vienintelė sąmonės forma, kurią galiu įsivaizduoti, nes ji yra vienintelė, kurią patyriau. Bet ar tikrai taip būtų būti sąmoningu AI?
Tikriausiai absurdiška taip manyti. Išmaniųjų mašinų kūrimo projektas yra nukreiptas į žmogaus intelektą. Tačiau gyvūnų pasaulis yra pilnas daugybės galimų alternatyvų – nuo paukščių iki bičių iki galvakojų.
Prieš kelis šimtus metų priimtas požiūris, stumiamas René Descartes'o, buvo toks tik žmonės buvo sąmoningi. Gyvūnai, kuriems trūko sielos, buvo laikomi beprotiškais robotais. Mažai kas galvoja, kad šiandien: jei esame sąmoningi, nėra pagrindo netikėti, kad žinduoliai, kurių smegenys panašios, taip pat yra sąmoningi. Ir kam nubrėžti liniją aplink žinduolius? Atrodo, kad paukščiai atsispindi spręsdami galvosūkius. Dauguma gyvūnų, net ir bestuburių, pavyzdžiui, krevečių ir omarų, jaučia skausmo požymius, o tai rodo, kad jie turi tam tikrą subjektyvią sąmonę.
Bet kaip mes galime iš tikrųjų įsivaizduoti, kaip tai turi jaustis? Kaip pažymėjo filosofas Tomas Nagelis, turi būti kaip šikšnosparnis, bet ko tai yra, mes net neįsivaizduojame – nes neįsivaizduojame, kaip būtų stebėti pasaulį per savotišką sonarą. Galime įsivaizduoti, kam tai gali būti skirta mus tai padaryti (galbūt užsimerkę ir pavaizduodami savotišką aplinkos echolokacijos taškinį debesį), tačiau tai vis tiek nėra toks, koks turi būti šikšnosparniui, turinčiam šikšnosparnio protą.
Kitas būdas išspręsti šį klausimą yra atsižvelgti į galvakojus, ypač į aštuonkojus. Žinoma, kad šie gyvūnai yra protingi ir smalsūs – neatsitiktinai Bender panaudojo juos, kad parodytų savo nuomonę. Tačiau jie turi labai skirtingą intelektą, kuris išsivystė visiškai atskirai nuo visų kitų protingų rūšių. Paskutinis bendras aštuonkojų protėvis tikriausiai buvo mažas į kirmėlę panašus padaras, gyvenęs prieš 600 milijonų metų. Nuo to laiko daugybė stuburinių gyvybės formų – žuvys, ropliai, paukščiai ir žinduoliai – išugdė savo proto rūšis vienoje šakoje, o galvakojai – kitą.
Todėl nenuostabu, kad aštuonkojo smegenys visiškai skiriasi nuo mūsų pačių. Vietoj vieno neuronų, valdančio gyvūną, kaip centrinis valdymo blokas, aštuonkojis turi kelis į smegenis panašius organus, kurie, atrodo, valdo kiekvieną ranką atskirai. Visais praktiniais sumetimais šie padarai yra tokie pat artimi ateivių intelektui, kaip ir bet kas, ką tikimės sutikti. Ir vis dėlto Peteris Godfrey-Smithas, filosofas, tyrinėjantis protų evoliuciją, sako, kad susidūrus akis į akį su smalsiu galvakoju, nekyla abejonių, kad yra sąmoninga būtybė, žvelgianti atgal .
Prieš kelis šimtus metų buvo priimtas požiūris, kad tik žmonės buvo sąmoningi. Gyvūnai, kuriems trūko sielos, buvo laikomi beprotiškais robotais. Mažai kas šiandien taip galvoja.
Žmonėms ilgainiui išliekantis savęs jausmas sudaro mūsų subjektyvios patirties pamatą. Mes esame tas pats žmogus, koks buvome šį rytą, praėjusią savaitę ir prieš dvejus metus, kiek tik prisimename. Prisimename vietas, kurias aplankėme, ką nuveikėme. Toks pirmojo asmens požiūris leidžia mums suvokti save kaip agentus, sąveikaujančius su išoriniu pasauliu, kuriame yra kitų agentų – suprantame, kad esame daiktai, kurie daro tam tikrus dalykus ir daro tam reikalus. Neaišku, ar aštuonkojai, juo labiau kiti gyvūnai, taip galvoja.
Panašiai negalime būti tikri, ar savęs jausmas pasaulio atžvilgiu yra būtina sąlyga norint būti sąmoninga mašina. Mašinos, bendradarbiaujančios kaip spiečius, gali veikti geriau, kai jaučiasi kaip grupės dalis, o ne kaip pavieniai asmenys. Bet kuriuo atveju, jei kada nors egzistuotų tokia potencialiai sąmoninga mašina kaip Robertas, susidurtume su ta pačia problema, įvertindami, ar faktiškai suvokdami, ką darome bandydami nustatyti intelektą: kaip pasiūlė Turingas, norint apibrėžti intelektą, reikia protingo stebėtojo. Kitaip tariant, intelektą, kurį matome šiandieninėse mašinose, į juos projektuojame mes – labai panašiai, kaip mes projektuojame prasmę žinutėms, kurias parašė Benderio aštuonkojis arba GPT-3. Tas pats pasakytina ir apie sąmonę: galime teigti, kad ją matome, bet tiktai mašinos žinos.
Jei dirbtinis intelektas kada nors įgaus sąmonę (ir mes laikomės jų žodžio), turėsime priimti svarbius sprendimus. Turėsime apsvarstyti, ar jų subjektyvi patirtis apima gebėjimą kentėti skausmą, nuobodulį, depresiją, vienatvę ar bet kokį kitą nemalonų pojūtį ar emociją. Galime nuspręsti, kad tam tikras kančios laipsnis yra priimtinas, priklausomai nuo to, ar į šiuos AI labiau žiūrime į gyvulius ar žmones.
Susijusi istorija
Bendrasis dirbtinis intelektas: ar esame artimi ir ar net prasminga bandyti? Mašina, galinti mąstyti kaip žmogus, nuo seniausių laikų buvo pagrindinė AI tyrimų vizija ir tebėra labiausiai skaldanti idėja.
Kai kurie tyrinėtojai, susirūpinę dėl itin intelektualių mašinų keliamų pavojų, pasiūlė apriboti šias AI virtualiame pasaulyje, kad jie negalėtų tiesiogiai manipuliuoti realiu pasauliu. Jei tikėtume, kad jie turi panašią į žmogaus sąmonę, ar jie turėtų teisę žinoti, kad mes juos atitvėrėme į simuliaciją?
Kiti ginčijosi, kad būtų amoralu išjungti arba ištrinti sąmoningą mašiną: kaip bijojo mūsų robotas Robertas, tai būtų panašu į gyvenimo pabaigą. Taip pat yra susijusių scenarijų. Ar būtų etiška perkvalifikuoti sąmoningą mašiną, jei tai reikštų jos prisiminimų ištrynimą? Ar galėtume nukopijuoti tą AI nepakenkdami jo savijautai? O kas, jei sąmonė pasirodytų naudinga treniruočių metu, kai subjektyvi patirtis padėjo dirbtiniam intelektui mokytis, bet buvo kliūtis vykdant apmokytą modelį? Ar būtų gerai įjungti ir išjungti sąmonę?
Tai tik subraižo etinių problemų paviršių. Daugelis tyrinėtojų, įskaitant Dennettą, mano, kad neturėtume bandyti kurti sąmoningų mašinų, net jei galime. Filosofas Thomas Metzingeris nuėjo tiek, kad ragino a moratoriumas darbui, kuris gali sukelti sąmonę , net jei tai nėra numatytas tikslas.
Jei nuspręstume, kad sąmoningos mašinos turi teises, ar jos turėtų ir pareigų? Ar galima tikėtis, kad dirbtinis intelektas pats elgsis etiškai, ir ar mes jį nubaustume, jei to nepadarytų? Šie klausimai veržiasi į dar sudėtingesnę teritoriją, iškeldami problemas dėl laisvos valios ir pasirinkimo prigimties. Gyvūnai turi sąmoningą patirtį ir mes jiems suteikiame tam tikras teises, bet jie neturi pareigų. Vis dėlto šios ribos laikui bėgant keičiasi. Su sąmoningomis mašinomis galime tikėtis, kad bus nubrėžtos visiškai naujos ribos.
Gali būti, kad vieną dieną gali būti tiek sąmonės formų, kiek yra AI tipų. Tačiau mes niekada nesužinosime, ką reiškia būti šiomis mašinomis, nei žinosime, ką reiškia būti aštuonkoju, šikšnosparniu ar net kitu žmogumi. Gali būti sąmonės formų, kurių nepripažįstame, nes jos labai skiriasi nuo to, prie ko esame įpratę.
Susidūrę su tokiomis galimybėmis turėsime pasirinkti gyventi su netikrumu.
Ir mes galime nuspręsti, kad esame laimingesni su zombiais. Kaip teigė Dennett, norime, kad mūsų AI būtų įrankiai, o ne kolegos. Galite juos išjungti, suplėšyti, lygiai taip pat, kaip ir su automobiliu, sako jis. Ir taip turėtume tai išlaikyti.
Willas Douglasas Heavenas yra „MIT Technology Review“ vyresnysis AI redaktorius.