Podcast: ar galite išmokyti mašiną mąstyti?

Arielis Davisas





Dirbtinis intelektas tapo tokia didele mūsų gyvenimo dalimi, kad jums būtų atleista, kad praradote algoritmų, su kuriais bendraujate, skaičių. Tačiau dirbtinis intelektas, maitinantis jūsų orų prognozę, „Instagram“ filtras ar mėgstamas „Spotify“ grojaraštis, yra toli nuo hiperinteligentiškos mąstymo mašinos pramonės pionieriai svarstė dešimtmečius.

Gilus mokymasis, technologija, skatinanti dabartinį AI bumą , gali išmokyti mašinas tapti meistrais atliekant visas užduotis. Tačiau vienu metu ji gali mokytis tik po vieną. Ir kadangi dauguma dirbtinio intelekto modelių lavina savo įgūdžius remdamiesi tūkstančiais ar milijonais esamų pavyzdžių, jie galiausiai atkartoja istorinių duomenų modelius, įskaitant daugybę žmonių priimtų blogų sprendimų, pavyzdžiui, spalvotų ir moterų marginalizavimą.

Vis dėlto tokios sistemos kaip stalo žaidimų čempionas AlphaZero ir vis labiau įtikinantis netikrų tekstų generatorius GPT-3 pakurstė diskusijų liepsną, kada žmonės sukurs dirbtinis bendras intelektas - mašinos, kurios gali atlikti kelias užduotis, mąstyti ir samprotauti.



Idėja skaldo. Be atsakymo į kaip mes galime sukurti technologijas, galinčias sveikam protui ar savęs tobulėjimui, yra dar vienas klausimas: kam iš tikrųjų naudinga žmogaus intelekto replikacija dirbtiniame prote?

Didžioji dalis vertės, kurią šiandien sukuria dirbtinis intelektas, grįžta į milijardus dolerių kainuojančias įmones, kurios jau turi fantastiškai daug išteklių, sako Karen Hao, MIT Technology Review vyresnioji AI reporterė ir knygos rašytoja. Algoritmas . Ir mes tikrai nesugalvojome, kaip konvertuoti tą vertę arba paskirstyti tą vertę kitiems žmonėms.

Šiame „Deep Tech“ epizode Hao ir Willas Douglasas Heavenas, mūsų vyresnysis dirbtinio intelekto redaktorius, prisijungia prie mūsų vyriausiojo redaktoriaus Gideono Lichfieldo, kad aptartų skirtingas mąstymo mokyklas apie tai, ar dirbtinis bendras intelektas apskritai įmanomas ir kas tai yra. reiktų ten patekti.



Peržiūrėkite daugiau „Deep Tech“ epizodų čia.

Rodyti pastabas ir nuorodas:

Visas epizodo nuorašas:

Gideonas Lichfieldas: Dirbtinis intelektas dabar yra toks visur paplitęs, kad tikriausiai net nesusimąstote apie tai, kad juo naudojatės. Jūsų žiniatinklio paieškos. Google vertėjas. Balso padėjėjai, tokie kaip Alexa ir Siri. Tie mieli maži filtrai „Snapchat“ ir „Instagram“. Ką matote ir nematote socialinėje žiniasklaidoje. Kredito kortelių įmonės įspėjimai apie sukčiavimą. Amazon rekomendacijos. Spotify grojaraščiai. Eismo kryptys. Oru prognoze. Visa tai yra AI, visą laiką.

Ir visa tai galime pavadinti kvailu AI. Ne tikras intelektas. Tikrai tik kopijavimo aparatai: algoritmai, kurie išmoko atlikti tikrai konkrečius dalykus, išmokę tūkstančius ar milijonus teisingų pavyzdžių. Kai kurie iš šių dalykų, pavyzdžiui, veido ir kalbos atpažinimo, jau yra dar tikslesni nei žmonės.



Visa ši pažanga atgaivino seną diskusiją šioje srityje: ar galime kurti srovė intelektas, mašinos, galinčios savarankiškai mąstyti? Na, su manimi šiandien yra MIT Technology Review AI komanda: Will Heaven, mūsų vyresnysis AI redaktorius, ir Karen Hao, mūsų vyresnioji AI reporterė ir rašytoja. Algoritmas , mūsų AI informacinis biuletenis. Jie abu stebėjo dirbtinio intelekto pažangą ir skirtingas mąstymo mokyklas apie tai, ar dirbtinis bendras intelektas iš viso įmanomas ir ko reikėtų, kad tai pasiektų.

Aš esu Gideonas Lichfieldas, „MIT Technology Review“ vyriausiasis redaktorius, o tai yra „Deep Tech“.

Willai, jūs ką tik parašėte 4000 žodžių istoriją klausimu, ar galime sukurti dirbtinį bendrąjį intelektą. Taigi jūs turėjote tam tikrą priežastį tai padaryti su savimi. Kodėl šis klausimas įdomus dabar?



Will Douglas Heaven: Taigi tam tikra prasme tai visada buvo įdomu. Nuo pat pradžių dirbtinio intelekto tikslas buvo sukurti mašiną, galinčią mąstyti ir daryti tai, ką gali padaryti žmonės, tačiau tai buvo ilga ir ilga kova. Ir praeities ažiotažas privedė prie nesėkmės. Taigi ši dirbtinio bendrojo intelekto idėja tapo, žinote, labai prieštaringa ir labai skaldančia, tačiau ji grįžta. Tai daugiausia dėl pastarojo dešimtmečio gilaus mokymosi sėkmės. Ir ypač tokios sistemos kaip Alpha Zero, kurią sukūrė DeepMind ir gali žaisti Go ir Shogi, savotiškais japonų šachmatais ir šachmatais. Tas pats algoritmas gali žaisti visus tris žaidimus. Ir GPT-3, didelis OpenAI kalbos modelis, kuris gali neįtikėtinai imituoti žmonių rašymo būdą. Tai paskatino žmones, ypač praėjusiais metais, vėl užduoti šiuos klausimus. Ar esame dirbtinio bendro intelekto kūrimo viršūnėje? Mašinos, galinčios mąstyti ir daryti tokius dalykus, kaip žmonės.

Gideonas Lichfieldas: Karen, pakalbėkime šiek tiek daugiau apie GPT-3, kurį Will ką tik paminėjo. Tai yra šis algoritmas, kurį, žinote, pasakote keletą žodžių ir jis išspjauna pastraipas ir pastraipas to, kas įtikinamai atrodo kaip Šekspyras ar bet kas kita, ką jam liepsite daryti. Bet kas čia tokio nuostabaus AI požiūriu? Ką jis daro, ko negalėjo padaryti anksčiau?

Karen Hao: Įdomu tai, kad lūžiai, paskatinę GPT-3, iš tikrųjų įvyko prieš keletą metų. 2017 m. pagrindinis lūžis, paskatinęs natūralios kalbos apdorojimo pažangos bangą, įvyko paskelbus straipsnį, kuriame buvo pristatyta transformatorių idėja. Ir taip, kaip transformatoriaus algoritmas elgiasi su kalba, jis žiūri į milijonus ar net milijardus pavyzdžių, sakinių pastraipos struktūros, galbūt net kodo struktūros. Jis gali išgauti šablonus ir pradėti labai įspūdingai nuspėti, kurie žodžiai kartu turi prasmingiausią, kurie sakiniai prasmingiausi kartu. Ir tada sukurkite šias tikrai ilgas pastraipas ir esė. Manau, kad GPT-3 padarė kitaip, yra tai, kad dabar yra daug daugiau duomenų, kurie dabar naudojami mokant šią transformatoriaus techniką. Taigi, ką OpenAI padarė su GPT-3, jie ne tik lavina žodžių pavyzdžius iš korpusų, pvz., Vikipedijos, ar straipsnių, pvz., New York Times ar Reddit forumų, ar visų šių dalykų, jie taip pat moko tai, sakinių šablonus, jis moko juos pagal pastraipų šablonus, žvelgdamas į tai, kas prasminga kaip įžanginė pastraipa, palyginti su išvados pastraipa. Taigi tiesiog gaunama daug daugiau informacijos ir iš tikrųjų pradedama labai artimai imituoti tai, kaip žmonės rašo, kaip kuriamos muzikos natos arba kaip koduojamas kodavimas.

Taigi tiesiog gaunama daug daugiau informacijos ir iš tikrųjų pradedama labai artimai imituoti tai, kaip žmonės rašo, kaip kuriamos muzikos natos arba kaip koduojamas kodavimas.

Gideonas Lichfieldas: O prieš transformatorius, kurie gali išgauti modelius iš visų šių skirtingų struktūrų, ką darė DI?

Karen Hao: Anksčiau natūralios kalbos apdorojimas iš tikrųjų buvo... jis buvo daug paprasčiau. Taigi transformatoriai yra savaime prižiūrima technika, kai algoritmas tiksliai nenurodo, ko ieškoti tarp kalbų. Ji tiesiog ieško modelių savaime ir, jo manymu, pasikartojančių kalbos kompozicijos ypatybių. Tačiau prieš tai iš tikrųjų buvo daug labiau prižiūrimų požiūrių į kalbą ir daug labiau užkoduotų požiūrių į kalbą, kai žmonės mokė mašinas, tokias kaip „tai yra daiktavardžiai, tai yra būdvardžiai“. Taip jūs statote šiuos dalykus kartu. Ir, deja, tai yra labai sunkus procesas bandant kurti kalbą tokiu būdu, kai kiekvienas žodis turi turėti etiketę. Ir mašiną reikia rankiniu būdu išmokyti konstruoti šiuos dalykus. Taigi tai apribojo duomenų, kuriuos šie metodai galėjo gauti, kiekį. Ir todėl kalbos sistemos tikrai nebuvo labai geros.

Gideonas Lichfieldas: Taigi grįžkime prie skirtumo tarp prižiūrimo ir savarankiškai prižiūrimo mokymosi, nes manau, kad pamatysime, kad tai yra gana svarbi pažangos dalis, kuri gali tapti bendru intelektu. Will, kaip rašėte savo kūrinyje, yra daug neaiškumų dėl to, ką turime omenyje sakydami dirbtinį bendrąjį intelektą. Ar galite šiek tiek pakalbėti apie tai, kokios yra galimybės?

Will Douglas Heaven: Yra tam tikras spektras. Viena vertus, jūs turite sistemas, kurios, žinote, gali atlikti daugybę dalykų, kuriuos siaurina AI arba kvailas AI, jei norite, gali padaryti šiandien, bet viską iš karto. Ir „Alpha Zero“ yra galbūt pirmasis žvilgsnis į tai. Šis algoritmas, galintis išmokyti save atlikti tris skirtingus dalykus, tačiau svarbus įspėjimas – jis negali priversti savęs daryti tų trijų dalykų vienu metu. Taigi tai nėra kaip vienos smegenys, galinčios perjungti užduotis. Kaip Shane'as Leggas, vienas iš „Deepmind“ įkūrėjų, pasakė, kad tarsi tu arba aš turiu, žinote, kai pradėjome žaisti šachmatais, turėjome pakeisti savo smegenis ir įdėti jas į šachmatų smegenis.

Akivaizdu, kad tai nėra labai bendra, bet mes esame tokio dalyko viršūnėje – jūsų daugiafunkcinis dirbtinis intelektas, kai vienas AI gali atlikti kelis skirtingus dalykus, kuriuos jau gali atlikti siauras AI. Ir tada judėdami aukštyn, turbūt daugiau žmonių, kalbėdami apie AGI, turi omenyje mąstymo mašinas, mašinas, kurios yra panašios į žmones gąsdinančiose citatose, kurios gali atlikti kelias užduotis taip, kaip gali žmogus. Jūs žinote, kad esame labai prisitaikantys. Galime pereiti nuo kiaušinių kepimo iki, žinai, tinklaraščio įrašo rašymo ir dainavimo, bet ko. Vis dėlto yra ir žmonių, einančių tiesiai į kitą spektro galą, kurie taip pat įsitrauktų į mašinos sąmonę, kad galėtų kalbėti apie AGI. Jūs žinote, kad mes neturėsime tikro bendro intelekto ar panašaus į žmogų intelekto, kol neturėsime mašinos, kuri ne tik gali daryti tai, ką galime padaryti, bet ir žinos, kad ji gali daryti dalykus, kuriuos galime padaryti mes, ir kurie turi tam tikrų savybių. savirefleksijos ten. Manau, kad visi tie apibrėžimai egzistuoja nuo pat pradžių, tačiau tai yra vienas iš dalykų, dėl kurių sunku kalbėti apie AGI ir yra gana prieštaringas, nes nėra aiškaus apibrėžimo.

Gideonas Lichfieldas: Kai kalbame apie dirbtinį bendrąjį intelektą, yra tokia netiesioginė prielaida, kad pats žmogaus intelektas taip pat yra absoliučiai bendras. Tai universalu. Galime kepti kiaušinienę arba parašyti tinklaraštį, šokti ar dainuoti. Ir kad visa tai yra įgūdžiai, kuriuos turėtų turėti bet koks bendras intelektas. Bet ar taip iš tikrųjų yra, ar bus įvairių rūšių bendrojo intelekto?

Will Douglas Heaven: Manau, ir daugelis AI bendruomenės narių taip pat sutiktų, kad yra daug skirtingų intelektų. Mes tarsi įstrigome ties į žmogų panašaus intelekto idėja, iš esmės todėl, kad žmonės ilgą laiką buvo geriausias mūsų bendro intelekto pavyzdys, todėl aišku, kodėl jie yra sektinas pavyzdys. , norime sukurti mašinas pagal savo įvaizdį, bet jūs tiesiog apsižvalgykite po gyvūnų karalystę ir yra daug, daug skirtingų būdų būti protingam. Nuo tokio socialinio intelekto, kurį turi skruzdėlės, kai jos kartu gali padaryti tikrai nepaprastų dalykų aštuonkojams, kurie dar tik pradedame suprasti, kaip jie yra protingi, bet tada jie yra protingi labai svetimu būdu. palyginti su mumis. Ir net mūsų artimiausi pusbroliai, pavyzdžiui, šimpanzės, turi kitokį intelektą nei jūs, jie turi kitokius įgūdžius nei žmonės.

Taigi aš manau, kad mintis, kad mašinos, jei jos apskritai tampa protingos, turi būti tokios, kaip mes, yra, kaip žinote, nesąmonė, išeina pro langą. Pati misija sukurti žmogišką AGI galbūt yra beprasmiška, nes mes turime žmogaus intelektą, tiesa? Mes turime save. Taigi kodėl mums reikia kurti mašinas, kurios tuos dalykus atliktų? Būtų daug, daug geriau sukurti intelektą, galintį padaryti tai, ko mes negalime. Jie yra protingi įvairiais būdais, kad pagirtų mūsų sugebėjimus.

Gideonas Lichfieldas: Karen, žmonėms, be abejo, patinka kalbėti apie itin intelektualaus dirbtinio intelekto grėsmę, kuri užvaldys pasaulį, tačiau dėl kokių dalykų turėtume iš tikrųjų nerimauti?

Karen Hao: Viena iš tikrai didžiausių pastarųjų metų buvo algoritminė diskriminacija. Šį reiškinį pradėjome pastebėti, kai mokydami mažus ar didelius algoritmus priimti sprendimus, pagrįstus istoriniais duomenimis, jis atkartoja modelius, kurių galbūt nebūtinai norėtume, kad jis atkartotų istoriniuose duomenyse, pvz., žmonių marginalizacija. spalva arba moterų marginalizacija.

Dalykai mūsų istorijoje, be kurių verčiau apsieiti, kai judame į priekį ir tobulėjame kaip visuomenė. Tačiau dėl to, kad algoritmai nėra labai protingi ir jie išgauna šiuos modelius ir be proto atkartoja šiuos modelius, jie galiausiai priima sprendimus, kurie diskriminuoja spalvotus žmones, diskriminuoja moteris, diskriminuoja tam tikras kultūras, kurios nėra į Vakarus orientuotos kultūros.

Ir jei stebėsite pokalbius tarp žmonių, kurie kalba apie kai kuriuos būdus, kuriais turime galvoti apie grėsmių, susijusių su superintelektu ar AGI, mažinimą, kaip norite tai pavadinti, jie kalbės apie šį vertybių derinimo iššūkį. Vertybių derinimas apibrėžiamas kaip būdas pasiekti, kad šis itin protingas AI suprastų mūsų vertybes ir atitiktų mūsų vertybes. Jei jie nesutampa su mūsų vertybėmis, jie gali padaryti ką nors beprotiško. Ir taip tai pradeda kenkti žmonėms.

Gideonas Lichfieldas: Kaip sukurti dirbtinį intelektą, ypač protingą DI, kuris nėra blogis?

Karen Hao: Būtent. Būtent. Taigi, užuot kalbėję ateityje apie bandymą išsiaiškinti vertybių suderinimą po šimto metų, dabar turėtume kalbėti apie tai, kaip mums nepavyko šiandien suderinti vertybių su labai paprastais AI ir iš tikrųjų išspręsti algoritminės diskriminacijos problemą.

Kitas didžiulis iššūkis yra galios koncentracija, kurią natūraliai sukuria AI. Šiandien jums reikia neįtikėtinai daug skaičiavimo galios, kad sukurtumėte pažangias AI sistemas ir sulaužytumėte naujausią techniką. Ir vieninteliai žaidėjai, kurie iš tikrųjų turi tokią skaičiavimo galią, yra didelės technologijų įmonės ir galbūt aukščiausio lygio mokslinių tyrimų universitetai. Ir net aukščiausio lygio mokslinių tyrimų universitetai beveik nebegali konkuruoti su didelėmis technologijų įmonėmis.

Taigi „Google“ „Facebook“ pasaulio obuoliai. Hm, dar vienas žmonių rūpestis, po šimto metų, kai bus paleistas itin intelektualus AI, ar iš tikrųjų tai bus vienodai naudinga žmonėms? Na, mes taip pat šiandien to nesupratome. Kaip ir didžioji dalis vertės, kurią šiandien sukuria AI, grįžta į milijardus dolerių kainuojančias įmones, kurios jau turi fantastišką išteklių kiekį. Ir mes tikrai nesugalvojome, kaip konvertuoti tą vertę arba paskirstyti tą vertę kitiems žmonėms.

Gideonas Lichfieldas: Gerai, grįžkime prie tos bendros žvalgybos idėjos ir kaip ją sukurtume, jei galėtume. Will anksčiau minėjo gilų mokymąsi. Tai yra pagrindinė daugelio šiandien naudojamų AI technika. Ir jam tik kokie aštuoneri metai. Karen, neseniai mūsų EmTech konferencijoje kalbėjote su gilaus mokymosi tėvu Geoffrey Hintonu. Ir jis mano, kad gilus mokymasis, technika, kurią naudojame tokiems dalykams kaip vertimo paslaugos ar veido atpažinimas, taip pat bus bendros žvalgybos pagrindas, kai galiausiai pasieksime.

Geoffrey Hintonas [Iš EmTech 2020]: Tikiu, kad gilus mokymasis gali padaryti viską. Tačiau manau, kad turės būti nemažai konceptualių proveržių, kurių dar neturėjome. // Ypač tai susiję su tuo, kaip įgyjate didelius neuroninės veiklos vektorius, kad būtų galima įgyvendinti tokius dalykus kaip samprotavimas, tačiau mums taip pat reikia didžiulio masto padidinimo. // Žmogaus smegenys turi apie šimtą trilijonų parametrų, tai yra sinapsė. Šimtas trilijonų. Tie, kurie dabar vadinami tikrai dideliais modeliais, tokiais kaip GPT-3, turi 175 mlrd. Tai tūkstančius kartų mažesnė už smegenis.

Gideonas Lichfieldas: Galbūt galite pradėti nuo paaiškinimo, kas yra gilus mokymasis?

Karen Hao: Gilus mokymasis yra metodų kategorija, pagrįsta idėja, kad dirbtinio intelekto kūrimo būdas yra dirbtinių neuroninių tinklų, pagrįstų mūsų smegenų neuroniniais tinklais, kūrimas. Žmogaus smegenys yra protingiausia mūsų šiandienos intelekto forma.

Akivaizdu, kad Willas jau kalbėjo apie kai kuriuos šios teorijos iššūkius, tačiau darant prielaidą, kad žmogaus intelektas yra tarsi šiandieninio intelekto įkūnijimas, norime pabandyti atkurti dirbtines smegenis, panašias į žmogaus smegenis. Ir tai yra gilus mokymasis. Tai technika, kuri bando naudoti dirbtinius neuroninius tinklus kaip būdą dirbtiniam intelektui pasiekti.

Tai, ką jūs turėjote omenyje, yra tai, kad šioje srityje iš esmės yra dvi skirtingos stovyklos apie tai, kaip galėtume kurti dirbtinį bendrą intelektą. Pirmoji stovykla yra ta, kad mes jau turime visas reikalingas technikas, tiesiog turime jas masiškai išplėsti naudodami daugiau duomenų ir didesnių neuroninių tinklų.

Kita stovykla yra gilaus mokymosi nepakanka. Mums reikia kažko kito, ko dar nesugalvojome, kad papildytume gilųjį mokymąsi, kad pasiektume kai kuriuos dalykus, pavyzdžiui, sveiką protą ar samprotavimus, kurių šiandien AI srityje buvo sunku.

Gideonas Lichfieldas: Taigi Willas, kaip ką tik užsiminė Karen, žmonės, kurie mano, kad galime sukurti bendrą intelektą iš gilaus mokymosi, mano, kad mums reikia pridėti kai kurių dalykų. Kas yra kai kurie iš tų dalykų?

Will Douglas Heaven: Tiems, kurie mano, kad mokymasis yra gilus, yra teisingas kelias. Turiu galvoje, kad įkeliama daugiau duomenų, kaip sakė Karen, yra daugybė metodų, kuriuos žmonės naudoja siekdami gilaus mokymosi į priekį.

Mokotės be priežiūros, o tai yra... tradiciškai daug gilių mokymosi sėkmių, pvz., vaizdo atpažinimo, tiesiog naudojant šabloninį kačių atpažinimo pavyzdį. Taip yra todėl, kad dirbtinis intelektas buvo išmokytas naudoti milijonus vaizdų, kuriuos žmonės pažymėjo kate. Žinote, taip atrodo katė, išmokite tai. Neprižiūrimas mokymasis yra tada, kai aparatas įsijungia ir žiūri į duomenis, kurie nebuvo taip pažymėti, ir pati bando pastebėti modelius.

Gideonas Lichfieldas : Kitaip tariant, duotų kaip krūvą kačių, krūvą šunų, krūvą pekano pyragų ir surūšiuotų juos į grupes?

Will Douglas Heaven: Taip. Iš esmės ji pirmiausia turi sužinoti, kokie yra šių kategorijų skiriamieji bruožai, o ne būti raginami. Ir tas gebėjimas atpažinti save, žinote, kas yra tie skiriamieji bruožai, yra žingsnis geresnio mokymosi būdo link. Ir tai praktiškai naudinga, nes, žinoma, visų šių duomenų ženklinimo užduotis yra didžiulė.

Ir mes negalime tęsti šio kelio, ypač jei norime, kad sistema treniruotųsi vis daugiau duomenų. Negalime tęsti ženklinimo rankiniu būdu. Ir dar įdomiau manau, kad neprižiūrima mokymosi sistema gali pastebėti jūsų kategorijas, kurių žmonės neturi. Taigi galime iš tikrųjų ko nors išmokti iš mašinos.

Ir tada jūs turite dalykų, pavyzdžiui, mokymąsi perkelti, ir tai labai svarbu bendram intelektui. Čia jūs turite modelį, kuris vienu ar kitu būdu buvo išmokytas naudoti duomenų rinkinį. Ir tai, ko išmokote tuose mokymuose, norite, kad galėtumėte tai perkelti į naują užduotį, kad jums nereikėtų kiekvieną kartą pradėti nuo nulio.

Taigi yra įvairių būdų, kaip perkelti mokymąsi, bet, pavyzdžiui, galite paimti kai kurias vertes iš vieno mokymo, iš vieno traukinių tinklo ir iš anksto įkelti kitą taip, kad paprašius atpažinti , kitokio gyvūno vaizdas, jis jau turi tam tikrą jausmą, ką gyvūnai turi, žinote, kojas, galvas ir uodegas.

Ką tu. Taigi jūs tiesiog norite, kad kai kuriuos išmoktus dalykus galėtumėte perkelti iš vienos užduoties į kitą. Be to, yra dalykų, pavyzdžiui, mažai greito mokymosi, kur sistema mokosi iš arba, kaip rodo pavadinimas, iš labai nedaug mokymo pavyzdžių. Ir tai taip pat bus labai svarbu, nes ne visada turime daug duomenų, kuriuos galėtume mesti į šias sistemas, kad jas išmokytume.

Aš turiu galvoje, kad jie yra labai neveiksmingi, palyginti su žmonėmis. Žinote, mes galime pasimokyti iš vieno pavyzdžio, dviejų pavyzdžių. Jūs parodote vaiką, žirafos nuotrauką ir ji žino, kas yra žirafa. Mes netgi galime sužinoti, kas yra, nepasakydami jokio pavyzdžio.

Karen Hao: taip. Taip. Jei pagalvosite, vaikai... jei parodysite jiems arklio nuotrauką, o tada parodysite raganosio nuotrauką ir sakysite, kad vienaragis yra kažkas tarp arklio ir raganosio, galbūt jie tai padarys, Kai jie pirmą kartą pamato vienaragį paveikslėlių knygoje, žinokite, kad tai vienaragis. Taigi jūs pradedate mokytis daugiau kategorijų, o ne matomų pavyzdžių, ir tai yra įkvėpimas dar vienai gilaus mokymosi ribai, vadinamam mokymuisi žemu žingsniu arba mažiau nei vienu mokymu. Ir vėlgi, tai yra tas pats principas, kaip ir nedaugelio tiesioginio mokymosi atveju, kai mes galime priversti šias sistemas mokytis iš labai, labai, labai mažų duomenų pavyzdžių, taip pat, kaip tai daro žmonės, tai tikrai gali sustiprinti mokymosi procesą.

Gideonas Lichfieldas: Man tai kelia dar bendresnį klausimą; Dėl to žmonės AGI srityje yra tokie įsitikinę, kad galite sukurti intelektą mašinoje, kuri informaciją pateikia skaitmeniniu vienetų ir nulių pavidalu, kai vis dar tiek mažai žinome apie tai, kaip žmogaus smegenys reprezentuoja informaciją. Argi ne labai didelė prielaida, kad galime tiesiog atkurti žmogaus intelektą skaitmeninėje mašinoje?

Will Douglas Heaven: taip, sutinku. Nepaisant didžiulio kai kurių šiandien matomų neuroninių tinklų sudėtingumo, atsižvelgiant į jų dydį ir ryšius, esame daugmaž nutolę nuo visko, kas atitinka smegenų mastą, net ir nuo gana elementarių gyvūnų smegenų. . Taip, tarp tos idėjos, kad mes galėsime tai padaryti, yra didžiulė praraja, ypač naudojant dabartinę technologiją, dabartinę gilaus mokymosi technologiją.

Ir, žinoma, nors, kaip Karen aprašė anksčiau, neuroninius tinklus įkvepia smegenys, mūsų smegenyse esantys neuronai. Tai tik vienas būdas pažvelgti į smegenis. Aš turiu galvoje, smegenys nėra tik neuronų gabalėliai. Juose yra atskiri skyriai, skirti įvairioms užduotims atlikti.

Taigi vėlgi, mintis, kad tik vienas labai didelis neuroninis tinklas pasieks bendrą intelektą, vėl yra šioks toks tikėjimo šuolis, nes galbūt bendram intelektui prireiks tam tikro proveržio, kaip tam skirtos struktūros bendrauja. Taigi, žinote, kad šio tikslo siekiantys žmonės turi dar vieną takoskyrą.

Žinote, kai kurie mano, kad galite tiesiog padidinti neuroninius tinklus. Kiti žmonės mano, kad turime atsitraukti nuo bet kokio individualaus gilaus mokymosi algoritmo specifikos ir pažvelgti į didesnį vaizdą. Tiesą sakant, žinote, galbūt neuroniniai tinklai nėra geriausias smegenų modelis ir mes galime sukurti geresnius, kurie pažiūrėtų, kaip skirtingos smegenų dalys bendrauja su, žinote, suma yra didesnė nei visa. .

Gideonas Lichfieldas: Noriu baigti filosofiniu klausimu. Anksčiau sakėme, kad net AGI šalininkai nemano, kad tai bus sąmoninga. Ar galime net pasakyti, ar tai turės minčių? Ar ji supras savo egzistavimą ta prasme, kaip mes?

Will Douglas Heaven: 1950 m. Alano Turingo darbe „Can Machines Think“, kuriame net, žinote, tada, kai AI tebebuvo teorinė idėja, mes net nenagrinėjome to kaip tam tikros inžinerinės galimybės. Jis iškėlė šį klausimą: kaip pasakyti, ar mašina gali mąstyti? Ir tame dokumente jis kalba apie tai, šią sąmonės idėją. Galbūt kai kurie žmonės ateis ir sakys, kad mašinos niekada negali mąstyti, nes mes niekada negalėsime pasakyti, kad mašinos gali mąstyti, nes negalėsime pasakyti, kad jos yra sąmoningos. Ir jis tarsi atmeta tai sakydamas: na, jei tu stumi šį argumentą taip toli, tada tu turi pasakyti tą patį. Na, o žmonės, su kuriais susitinkate kiekvieną dieną, nėra galutinio būdo pasakyti, kad kuris nors iš jūsų, vaikinai, nėra sąmoningas. Tu žinai, kad aš tai sužinočiau tik tuo atveju, jei patyriau, kad esi tu. Ir jūs pasiekiate tašką, kur bendravimas nutrūksta, ir tai yra vieta, kur mes negalime eiti. Taigi tai yra vienas iš būdų atmesti šį klausimą. Aš turiu galvoje, kad sąmonės klausimas išliks amžinai. Vieną dieną, manau, turėsime mašinas, kurios veiks taip, lyg būtų... jos galėtų mąstyti, o žinote, galėtų taip gerai imituoti žmones, kad galėtume su jais elgtis taip, lyg jie būtų sąmoningi, bet ar jie iš tikrųjų yra, nemanau, kad kada nors sužinosime.

Gideonas Lichfieldas: Karen, ką manai apie sąmoningas mašinas?

Karen Hao: Turiu omenyje, kad remiantis tuo, ką pasakė Vilas, mes žinome, kokia sąmonė. Ir manau, kad iš tikrųjų remčiausi Tuftso profesoriaus darbu. Jis į dirbtinį intelektą žiūri iš dirbtinio gyvenimo perspektyvos. Pavyzdžiui, kaip atkartoti visus skirtingus dalykus?

Ne tik smegenys, bet ir elektros impulsai ar elektriniai signalai, kuriuos naudojame kūne bendraudami ir kurie taip pat turi intelektą. Jei iš esmės sugebame atkurti kiekvieną smulkmeną, kiekvieną mažą procesą savo kūne ar gyvūno kūne, tai kodėl tos būtybės neturėtų tokios pat sąmonės kaip mes?

Will Douglas Heaven: Jūs žinote, kad šiuo metu vyksta nuostabios diskusijos apie smegenų organoidus, kurie yra maži kamieninių ląstelių gumulėliai, kurie yra priversti išaugti į neuronus ir netgi gali sukurti ryšius, o kai kuriuose iš jų matote šį elektrinį aktyvumą. Ir visame pasaulyje yra įvairių laboratorijų, kurios tiria šias mažas smegenų dėmeles, kad geriau suprastų žmogaus smegenų ligas. Tačiau vyksta tikrai įdomios etinės diskusijos apie tai, kokiu momentu ši elektrinė veikla pakyla? Galimybė, kad šie maži pypsėjimai Petri lėkštelėse yra sąmoningi. Ir tai rodo, kad mes neturime tinkamo sąmonės apibrėžimo, net ir savo smegenims, jau nekalbant apie mašinines.

Karen Hao: Ir noriu pridurti, kad mes taip pat neturime tinkamo dirbtinio apibrėžimo. Tai tik prideda, turiu galvoje, jei kalbame apie dirbtinį, bendrąjį, intelektą.

Neturime tinkamo apibrėžimo nė vienam iš tų trijų žodžių, sudarančių tą terminą. Taigi, pereinant prie to, ką Willas pasakė apie šiuos organoidus, augančius Petri lėkštelėse, tai laikoma dirbtine? Jei ne, kodėl? Ar dirbtinius apibrėžiame kaip dalykus, kurie tiesiog nėra pagaminti iš organinės medžiagos? Visuose dalykuose, apie kuriuos mes kalbame, yra daug dviprasmybių ir apibrėžimų, todėl sąmonės klausimas tampa labai sudėtingas.

Will Douglas Heaven: Tai taip pat suteikia jiems įdomių dalykų, apie kuriuos galima kalbėti.

Gideonas Lichfieldas: Štai šiai „Deep Tech“ serijai. Ir tai taip pat paskutinis epizodas, kurį šiuo metu darome. Dirbame su kai kuriais kitais garso projektais, kuriuos tikimės pradėti artimiausiais mėnesiais. Taigi prašome juos stebėti. O jei dar to nepadarėte, turėtumėte peržiūrėti mūsų AI podcast'ą, pavadintą In Machines We Trust, kuris pasirodo kas dvi savaites. Jį galite rasti bet kur, kur įprastai klausote podcast'ų.

„Deep Tech“ parašė ir prodiusavo Anthony Green, o redagavo Jennifer Strong ir Michaelas Reilly. Aš Gideonas Lichfieldas. Ačiū, kad klausėte.

paslėpti