211service.com
Singuliarumas ir fiksuotas taškas
Kai kurie futuristai, tokie kaip Ray'us Kurzweilas, iškėlė hipotezę, kad kada nors greitai išgyvensime išskirtinumą – tai yra sparčių technologinių pokyčių laikotarpį, po kurio negalime įsivaizduoti visuomenės ateities. Dauguma šio išskirtinumo vizijų sutelkia dėmesį į mašinų, pakankamai protingų, kad sukurtų mašinas, dar protingesnes už juos pačius, kūrimą, ir taip toliau rekursyviai, taip paleidžiant teigiamą intelekto stiprinimo grįžtamąjį ryšį. Tai intriguojanti mintis. (Vienas iš pirmųjų dalykų, kuriuos norėjau padaryti, kai studijavau MIT, buvo sukurti robotą mokslininką, kuris galėtų greičiau ir geriau nei bet kas kitas atrasti atradimus.) Net Intel technologijų vadovas Justinas Rattneris neseniai viešai spėliojo, kad esame gerai pakeliui į šį singuliarumą ir tokias konferencijas kaip Singularity Summit (kuriame Aš kalbėsiu spalio mėnesį ) tiria, kaip galėtų vykti tokie pokyčiai.
Tačiau, kaip smegenų inžinierius, manau, kad sutelkus dėmesį tik į intelekto didinimą, kaip į ateities varomąjį veiksnį, neatsižvelgiama į svarbią analizės dalį – būtent motyvacijos pokyčius, kurie gali kilti intelektui stiprėjant. Pavadinkite tai mašinų vadovavimo įgūdžių ar mašinos filosofijos poreikiu – be jų tokia grįžtamojo ryšio kilpa gali greitai nutrūkti.
Visi žinome, kad intelekto, kaip paprastai apibrėžiama, nepakanka, kad jis pats paveiktų pasaulį. Taip pat svarbus gebėjimas atkakliai siekti tikslo prieš kliūtis, ignoruojant tikrovės niūrumą (kartais net iki kliedesio – t. y. prieš intelektą). Dauguma mokslinės fantastikos istorijų teikia pirmenybę tam, kad jų dirbtinis intelektas būtų labai motyvuotas daryti dalykus, pavyzdžiui, pavergti ar sunaikinti žmones, jei Matrica ir Terminatorius II turi ką pasakyti šia tema. Tačiau man toks pat tikėtinas robotas Marvinas, superprotinga Douglaso Adamso mašina. The Autostopu vadovas po galaktiką , kuris naudojo savo didžiulį intelektą daugiausia sėdėti ir skųstis, nesant jokio didelio tikslo.
Iš tiesų, tikrai pažengęs intelektas, netinkamai motyvuotas, gali suvokti visų dalykų nepastovumą, apskaičiuoti, kad saulė išdegs po kelių milijardų metų, ir nuspręsti žaisti vaizdo žaidimus likusį savo egzistavimo laiką, padarydamas išvadą, kad išradęs dar protingesnį. mašina beprasmė. (Tokio mąstymo pasekmė gali paaiškinti, kodėl dar neradome nežemiškos gyvybės: tarpžvaigždinės kelionės slenkstyje esantys intelektai gali būti linkę manyti, kad galaktikoms išvirstant vos po 1019 metų, gali būti geriau tiesiog likti namuose. ir žiūrėti televizorių.) Taigi, jei žmogus bando sukurti išmanią mašiną, galinčią sukurti protingesnes mašinas, svarbu rasti būdą, kaip sukurti ne tik motyvaciją, bet ir motyvacijos stiprinimą. - nuolatinis noras kurti savarankišką motyvaciją, didėjant intelektui. Jei tokią motyvaciją turėtų turėti ateities intelekto kartos – tarsi metamotyvacija – tuomet svarbu šiuos principus atrasti dabar.
Yra antra problema. Protinga būtybė gali įsivaizduoti daug daugiau galimybių nei mažiau protinga, tačiau tai ne visada gali paskatinti efektyvesnius veiksmus, ypač jei kai kurios galimybės atitraukia intelektą nuo pirminių tikslų (pvz., tikslas sukurti protingesnį intelektą). ). Visatai būdingas neapibrėžtumas taip pat gali užgožti šio intelekto sprendimų priėmimo procesą arba padaryti jį nereikšmingu. Iš tiesų, esant labai didelės dimensijos galimybių erdvei (kai ašys atspindi skirtingus veiksmo parametrus), gali būti labai sunku įvertinti, kuris kelias yra geriausias. Protas gali kurti planus lygiagrečiai, tačiau veiksmai galiausiai yra vieningi, o turint ribotus prieinamus išteklius, veiksmingi veiksmai dažnai bus menki.
Paskutinės dvi pastraipos taikomos ne tik AI ir ET, bet ir apibūdina žmogaus proto ypatybes, kurios kartais daro įtaką daugelio iš mūsų sprendimų priėmimui – motyvacijos ir veržlumo stoka ir sprendimų priėmimo paralyžius, kai susiduriama su per daug galimų pasirinkimų. . Tačiau būna dar blogiau: žinome, kad motyvaciją galima užgrobti pasirinkimais, kurie imituoja pasitenkinimą, kuriuo motyvacija yra nukreipta. Priklausomybė nuo medžiagų vien tik Jungtinėse Valstijose kankina dešimtis milijonų žmonių, o priklausomybė nuo subtilesnių dalykų, įskaitant tam tikros rūšies informaciją (pvz., el. paštą), taip pat yra ryški. Ir retas menas yra sudėtingesnis nei motyvacijos perdavimas kitai kartai, siekiant didelės idėjos. Intelektai, kurie išranda vis įdomesnes ir įdomesnes technologijas, kurios gali geriau patraukti ir išlaikyti jų dėmesį, kartu sumažindamos poveikį pasauliui, gali tapti priešinga singuliarumui.
Kas yra singuliarumo priešingybė? Singuliarumas priklauso nuo matematinės rekursijos: išraskite superintelektą, tada jis išras dar galingesnį superintelektą. Tačiau, kaip žino bet kuris matematikos studentas, yra ir kitų kartojamo proceso rezultatų, pavyzdžiui, fiksuotas taškas. Fiksuotas taškas yra taškas, kuris pritaikius funkciją vėl suteikia tą patį tašką. Tokią funkciją pritaikius taškams šalia fiksuoto taško, jie dažnai siunčiami link fiksuoto taško.
Todėl fiksuotas visuomenės taškas gali būti apibrėžiamas kaip būsena, kuri save stiprina, išlikdama status quo – kuri iš principo gali būti taiki ir savarankiška, bet taip pat gali būti labai nuobodi, tarkime, apimanti daugybę žmonių, prisijungusių prie interneto. žiūrėti vaizdo įrašus amžinai. Taigi, mes, žmonės, galbūt kada nors norėsime pradėti kurti technologijų projektavimo taisykles, kad jos paskatintų mus siekti kokio nors aukšto tikslo ar tikslo – arba bent jau atitolti nuo aklavietės visuomenės fiksuotų taškų. Šis procesas apims mąstymą, kaip technologijos galėtų padėti išspręsti seną filosofijos klausimą – ką turėčiau daryti, atsižvelgiant į visus šiuos galimus kelius? Galbūt atėjo laikas empiriniam atsakymui į šį klausimą, gautą iš mūsų smegenų ir visatos, kurioje gyvename, savybių.