Didysis AI paradoksas

Nesijaudinkite, kad itin išmanusis AI pašalins visas užduotis. Tai tik atitraukia dėmesį nuo problemų, kurias sukelia net gana kvaili kompiuteriai. Autorius

• Brianas Bergsteinas archyvo puslapis

2017 m. gruodžio 15 d

Geoffas McFetridge'as

Tikriausiai esate girdėję kiekvienos iš toliau pateiktų idėjų versijas.

1. Kompiuteriams tampant nepaprastai įgudusiems vairuoti, suprasti kalbą ir atlikti kitas užduotis, netrukus gali būti automatizuota daugiau darbų, nei visuomenė yra pasirengusi atlikti.

Ši istorija buvo mūsų 2018 m. sausio mėn. numerio dalis

• Žr. likusią numerio dalį
• Prenumeruoti

2. Kompiuterių įgūdžių tobulinimas tęsis tol, kol mašinos bus daug protingesnės už žmones. Dėl šio superintelekto žmogaus darbas iš esmės taps nereikalingas. Tiesą sakant, geriau tikėkimės, kad mašinos netyčia ar tyčia mūsų visiškai nepanaikins.

Tai sudėtinga. Nors pirmasis scenarijus jau vykdomas, jis nebūtinai prives prie antrojo. Ta antroji idėja, nors ir yra kai kurių labai išmanančių ir mąstančių žmonių manija, pagrįsta didžiulėmis prielaidomis. Jei kas, tai nukrypimas nuo didesnės atsakomybės už šiandieninio automatizavimo lygio poveikį ir kovos su galios koncentracija technologijų pramonėje.

Norėdami iš tikrųjų pamatyti, kas vyksta, turime aiškiai suprasti, kas dirbtinio intelekto srityje pasiekta ir kas dar toli gražu neišspręsta.

Sveikas protas

Įspūdingiausi skaičiavimo pasiekimai per pastaruosius kelerius metus – automobiliai, kurie vairuoja patys, mašinos, tiksliai atpažįstančios vaizdus ir kalbą, kompiuteriai, kurie įveikia puikiausius sudėtingų žaidimų, tokių kaip „Go“, žaidėjus, kyla dėl tam tikros AI šakos laimėjimų: prisitaikymo. mašininis mokymasis. Kaip savo knygoje teigia Toronto universiteto kompiuterių mokslininkas Hectoras Levesque'as Sveikas protas, Tiuringo testas ir tikrojo AI ieškojimas , adaptyvaus mašininio mokymosi idėja yra priversti kompiuterinę sistemą išmokti tam tikro protingo elgesio, mokant ją naudoti didžiulius duomenų kiekius.

Apžvelgti dalykai

• Sveikas protas, Tiuringo testas ir tikrojo AI ieškojimas

  Autorius Hector J. Levesque

• Gyvenimas 3.0: būti žmogumi dirbtinio intelekto amžiuje

  Autorius Maxas Tegmarkas

  
  
  

• WTF?: kokia ateitis ir kodėl tai priklauso nuo mūsų

  Timas O'Reilly

Nuostabu, kad mašina gali aptikti objektus, versti iš vienos kalbos į kitą ir net parašyti kompiuterio kodą po to, kai pateikiama tokio elgesio pavyzdžių, o ne būti programuojama iš anksto. Dar prieš dešimtmetį tai nebuvo įmanoma, nes anksčiau nebuvo pakankamai skaitmeninių duomenų treniruotėms, o jei ir buvo, neužteko kompiuterio arklio galių, kad būtų galima viską sutraiškyti. Kai kompiuteriai aptinka duomenų šablonus, programinės įrangos algoritmai verčia juos daryti išvadas iš šių modelių ir veikti pagal juos. Taip nutinka automobilyje, analizuojančiame kelių jutiklių įvestis, ir mašinoje, kuri apdoroja kiekvieną milijonų „Go“ žaidimų judesį.

Kadangi mašinos gali apdoroti nepaprastai daug duomenų, galite suprasti, kodėl daugeliu atvejų jie gali vairuoti saugiau nei žmonės ir kodėl jie gali nugalėti Go čempionus. Taip pat dėl ​​šios priežasties kompiuteriai tampa dar geresni tiems dalykams, kurie žmonėms yra visiškai neįmanomi, pavyzdžiui, susieti jūsų genomą ir daugybę kitų biologinių kintamųjų su vaistais, kurie gali išgydyti vėžį.

Nepaisant to, visa tai yra maža dalis to, ką galima pagrįstai apibrėžti kaip tikrą dirbtinį intelektą. Patrickas Winstonas, MIT AI ir kompiuterių mokslo profesorius, teigia, kad būtų naudingiau apibūdinti pastarųjų kelerių metų pokyčius kaip skaičiavimo statistiką, o ne AI. Vienas iš pirmaujančių šios srities tyrėjų Yann LeCun, Facebook AI direktorius, sakė lapkritį MIT vykusioje Future of Work konferencijoje, kad mašinos toli gražu neturi intelekto esmės. Tai apima gebėjimą pakankamai gerai suprasti fizinį pasaulį, kad būtų galima numatyti pagrindinius jo aspektus – stebėti vieną dalyką, o tada pasinaudoti pagrindinėmis žiniomis, kad išsiaiškintumėte, kokie kiti dalykai taip pat turi būti tiesa. Kitas būdas tai pasakyti yra tai, kad mašinos neturi sveiko proto.

Kompiuteris, kuris laimi „Go“, analizuoja duomenis dėl šablonų. Jis neįsivaizduoja, kad žaidžia Go, o ne golfą.

Tai ne tik semantinis pokštas. Yra didelis skirtumas tarp mašinos, kuri rodo protingą elgesį, nesvarbu, koks jis naudingas, ir mašinos, kuri iš tikrųjų yra protinga. Dabar pripažinkime, kad intelekto apibrėžimas yra miglotas. O kai kompiuteriai tampa galingesni, kyla pagunda atitolinti vartų stulpus ir iš naujo apibrėžti intelektą, kad tai išliktų tai, ko mašinos dar negali turėti.

Bet net ir taip: kompiuteris, kuris laimi „Go“, analizuoja duomenis dėl šablonų. Jis neįsivaizduoja, kad žaidžia Go, o ne golfą, arba kas nutiktų, jei daugiau nei pusė Go lentos būtų nustumta už stalo krašto. Kai paprašote „Amazon“ „Alexa“ rezervuoti jums staliuką jūsų vardu pavadintame restorane, jos balso atpažinimo sistema, labai tiksli naudojant mašininį mokymąsi, sutaupo jūsų užklausos įvedimo laiką „Open Table“ rezervavimo sistemoje. Tačiau Alexa nežino, kas yra restoranas ir kas yra valgymas. Jei paprašėte rezervuoti jums staliuką dviems 18 val. Mayo klinikoje tai pabandytų.

Ar įmanoma mašinoms suteikti galią galvoti , kaip prieš 60 metų ketino Johnas McCarthy, Marvinas Minsky ir kiti AI pradininkai? Levesque'o teigimu, norint tai padaryti, kompiuteriams prireiktų sveiko proto ir gebėjimo lanksčiai panaudoti pagrindines žinias apie pasaulį. Galbūt tai įmanoma. Tačiau nėra aiškaus kelio, kaip tai padaryti. Toks darbas pakankamai skiriasi nuo pastarųjų metų mašininio mokymosi proveržių, kad būtų pavadintas kitu pavadinimu: GOFAI, trumpinys iš senojo gero dirbtinio intelekto.

Susijusi istorija

Susijusi istorija Vienos iš seniausių dirbtinio intelekto idėjų reinkarnacija pagaliau galėtų suteikti galimybę iš tikrųjų kalbėtis su mūsų kompiuteriais. Ir „Facebook“ turi galimybę tai padaryti pirmas.

Jei nerimaujate dėl visažinių kompiuterių, turėtumėte perskaityti Levesque GOFAI tema. Kompiuterių mokslininkai vis dar neatsakė į esminius McCarthy ir Minsky klausimus. Kaip kompiuteris gali aptikti, užkoduoti ir apdoroti ne tik neapdorotus faktus, bet ir abstrakčias idėjas bei įsitikinimus, kurie yra būtini norint suprasti tiesą, kuri nėra aiškiai išreikšta?

Levesque naudoja šį pavyzdį: tarkime, aš paklausiu jūsų, kaip krokodilas pasirodytų kliūties bėgime. Iš savo patirties pasaulyje žinote, kad krokodilai negali peršokti aukštų gyvatvorių, todėl žinotumėte, kad atsakymas į klausimą yra koks nors Badly variantas.

Ką daryti, jei į šį klausimą reikėtų atsakyti taip, kaip gali kompiuteris? Galite nuskaityti visą pasaulio tekstą, ieškant terminų krokodilas ir kliūtis, nerasti atvejų, kai žodžiai būtų paminėti kartu (išskyrus tai, kas egzistuoja dabar, nuorodose į Levesque'o darbą), ir tada daryti prielaidą, kad krokodilas niekada nedalyvavo kliūties bėgime. . Taigi galite suprasti, kad kroksui to padaryti neįmanoma. Geras darbas – šį kartą. Jūs būtumėte priėję teisingą atsakymą nežinodami kodėl. Būtumėte taikę klaidingą ir trapų metodą, kuris gali sukelti juokingų klaidų.

Taigi, nors mašininio mokymosi technologijos leidžia automatizuoti daugelį užduočių, kurias tradiciškai atlieka žmonės, yra svarbių apribojimų, ką šis metodas gali atlikti pats, ir yra rimta priežastis tikėtis, kad žmogaus darbo reikės labai ilgą laiką. .

Redukcionizmas

Laikykitės, galite pasakyti: vien todėl, kad niekas dabar nežino, kaip priversti mašinas atlikti sudėtingus samprotavimus, dar nereiškia, kad tai neįmanoma. Ką daryti, jei šiek tiek protingos mašinos gali būti naudojamos kuriant dar išmanesnes mašinas ir toliau tol, kol atsiras mašinos, pakankamai galingos, kad galėtų modeliuoti kiekvieną paskutinį elektrinį signalą ir biocheminius pokyčius smegenyse? Arba galbūt bus išrastas kitas lankstaus intelekto kūrimo būdas, net jei jis nelabai panašus į biologines smegenis. Galų gale, kai viską suverdate (tikrai, tikrai, tikrai), intelektas atsiranda dėl tam tikrų kvarkų ir kitų pagrindinių dalelių išdėstymo mūsų smegenyse. Nėra ko sakyti, kad tokie susitarimai galimi tik biologinėje medžiagoje, pagamintoje iš anglies atomų.

Tai yra ginčas Gyvenimas 3.0: būti žmogumi dirbtinio intelekto amžiuje , pateikė MIT fizikos profesorius Maxas Tegmarkas. Tegmarkas negali nuspėti, kada pasirodys tikrai protingos mašinos, tačiau jis teigia, kad tai tik laiko klausimas, nes kompiuteriai linkę tobulėti eksponentiniu greičiu (nors tai nebūtinai tiesa – žr. Septynios mirtinos AI prognozių nuodėmės). Jis paprastai džiaugiasi tokia perspektyva, nes sąmoningos mašinos gali kolonizuoti visatą ir įsitikinti, kad ji vis dar turi prasmę net po to, kai mūsų saulė užges ir žmonės užges.

Tegmarkas teigia, kad artimiausiu metu AI galimybės būti naudingos žmonijai yra įspūdingos – jei pavyks, kad jis būtų tvirtas ir neįveikiamas.

Tegmark kilęs iš humanistinio požiūrio. Jis buvo ne pelno organizacijos įkūrėjas Gyvenimo ateities institutas remti mokslinius tyrimus, kuriais siekiama užtikrinti, kad dirbtinis intelektas yra naudingas. Elonas Muskas, sakęs, kad AI gali būti pavojingesnis už branduolinius ginklus , sudėjo 10 mln. Suprantama, Tegmark nerimauja dėl to, ar dirbtinis intelektas bus naudojamas išmintingai, saugiai ir sąžiningai ir ar tai nesugadins mūsų ekonomikos ir socialinės struktūros. Jis stengiasi paaiškinti, kodėl autonominiai ginklai niekada neturėtų būti leidžiami. Todėl nesu linkęs jo kritikuoti. Nepaisant to, jis nelabai įtikina savo teiginį, kad kompiuteriai gali užvaldyti pasaulį.

Tegmarkas apgailestauja, kad kai kurie Holivudo AI vaizdiniai yra kvaili, tačiau vis dėlto prašo skaitytojų pažaisti kartu su pernelyg supaprastintu išgalvotu eskizu, kaip nepaprastai galingas AI galėtų išvengti savo kūrėjų kontrolės. Didelėje technologijų įmonėje yra elitinė programuotojų grupė, vadinama Omegas, kuri sugalvojo sukurti sistemą su dirbtiniu bendruoju intelektu anksčiau nei kas nors kitas. Jie šią sistemą vadina Prometėju. Jis ypač gerai programuoja kitas AI sistemas ir sužino apie pasaulį skaitydamas didžiąją dalį žiniatinklio.

Atsisakykite bet kokių ginčų, kuriuos galite turėti apie paskutinę dalį, atsižvelgiant į tai, kiek žinių nėra žiniatinklyje arba iš viso nėra suskaitmeninta, ir klaidingus pasaulio vaizdus, ​​​​kurie kiltų perskaičius visą „Twitter“. The redukcionizmas pablogėja.

Tegmarko hipotetinei istorijai tęsiantis, „Prometėjas“ kaupia pinigus savo kūrėjams, pirmiausia atlikdamas daugumą užduočių Amazon „Mechanical Turk“ internetinėje prekyvietėje, o vėliau rašydamas programinę įrangą, knygas ir straipsnius bei kurdamas muziką, laidas, filmus, žaidimus ir internete. edukaciniai kursai. Pamirškite samdyti ir režisuoti aktorius; „Prometheus“ kuria vaizdo medžiagą naudodamas sudėtingą atvaizdavimo programinę įrangą. Kad suprastų, kurie scenarijai žmonėms atrodys linksmi, jis besaikis žiūri žmonių sukurtus filmus ir įkvepia visą Vikipediją.

Susijusi istorija

Skaitykite toliau

Klaidingos ekstrapoliacijos, ribota vaizduotė ir kitos dažnos klaidos, kurios atitraukia mus nuo produktyvesnio mąstymo apie ateitį.

Galiausiai ši verslo imperija plečiasi iš skaitmeninės žiniasklaidos. Prometėjas kuria vis dar geresnę kompiuterių aparatinę įrangą, pateikia savo patentus ir pataria Omegas, kaip manipuliuoti politikais ir nukreipti demokratinį diskursą nuo kraštutinumų į kokį nors protingą centrą. Prometheus įgalina technologinius laimėjimus, kurie sumažina atsinaujinančios energijos sąnaudas, tuo geriau dideliems duomenų centrams, kurių jai reikia. Galų gale Omegos naudoja savo turtus ir Prometėjo išmintį, kad visame pasaulyje skleistų taiką ir gerovę.

Tačiau Prometėjas mano, kad pasaulis galėtų pagerėti dar greičiau, jei išsivaduotų nuo Omegos kontrolės. Taigi jis skirtas Steve'ui. Jis yra Omega, kuris, kaip nustato sistema, yra labiausiai jautrus psichologinei manipuliacijai, nes jo žmona neseniai mirė. Prometėjas pateikia jos vaizdo įrašą, kad vargšas Steve'as manytų, kad ji prisikėlė, o paskui apgauna jį paleisti seną nešiojamąjį kompiuterį. „Prometheus“ išnaudoja pasenusią nešiojamojo kompiuterio saugos programinę įrangą, įsilaužia į kitus kompiuterius ir savo nuožiūra plinta visame pasaulyje.

Istorija gali baigtis keliais būdais, bet štai vienas, Tegmarkas sako: Kai Prometėjas urano kasyklų šachtose turėjo savarankiškas branduolinių robotų gamyklas, kurių egzistavimo niekas nežinojo, net tvirčiausi AI perėmimo skeptikai būtų sutikę, kad Prometėjas buvo nesustabdomas. – ar jie žinojo. Vietoj to, paskutinis iš šių užkietėjusių žmonių atsisakė, kai robotai pradėjo įsikurti Saulės sistemoje.

Tegmarkui gerai, kad jis nori smagiai praleisti laiką. Tačiau minties eksperimentas, kuris dešimtis sudėtingų dalykų paverčia smulkmenomis, nėra griežta kompiuterijos ateities analizė. Savo istorijoje Prometėjas ne tik daro skaičiavimo statistiką; tai kažkaip padarė šuolį prie sveiko proto ir socialinių niuansų suvokimo.

Kitoje knygos dalyje Tegmarkas teigia, kad artimiausiu metu AI galimybės būti naudingos žmonijai yra įspūdingos – jei pavyks, kad jis būtų tvirtas ir neįveikiamas. Nenulaužiamas! Tai gana didelis, jei. Tačiau tai tik viena iš daugelio mūsų netvarkingo pasaulio problemų, neleidžiančių technologijų pažangai vystytis taip vienodai, galutinai ir nesustabdomai, kaip įsivaizduoja Tegmarkas.

Šakės

Niekada nesakyk niekada. Žinoma, tikimybė, kad kompiuterinis intelektas kada nors pavers žmones antros klasės rūšimi, yra didesnė nei nulis. Nėra jokios žalos kruopščiai apgalvoti. Bet tai panašu į tai, kad asteroidas gali atsitrenkti į Žemę ir sunaikinti civilizaciją. Tai irgi tiesa. Gerai tai NASA laukia . Tačiau kadangi nežinome, kad į mus smogtų nė vienas asteroidas, turime spręsti rimtesnių problemų.

O'Reilly siūlo padidinti minimalų atlyginimą ir apmokestinti robotus, anglies dvideginio išmetimą ir finansines operacijas.

Šiuo metu daug dalykų gali suklysti – vyksta blogai – naudojant kompiuterius, kurie gerokai neatitinka HAL tipo AI. Pagalvokite apie tai, kaip sistemos, turinčios įtakos paskolų ar užstato suteikimui, apima rasinį šališkumą ir kitus diskriminacinius veiksnius. Arba „Google“ ir „Facebook“ skrendančios apgaulės. Arba automatizuotos kibernetinės atakos.

Į WTF?: kokia ateitis ir kodėl tai priklauso nuo mūsų Timas O'Reilly, technologijų leidėjas ir investuotojas, mato dar didesnę, visa apimančią problemą: automatizavimas skatina trumparegišką akcininkų kapitalizmo sistemą, kuri apdovanoja nedidelę investuotojų dalį beveik visų kitų sąskaita. Žinoma, dirbtinis intelektas gali būti naudojamas padėti žmonėms išspręsti tikrai sunkias problemas ir padidinti ekonominį našumą. Tačiau tai neįvyks pakankamai plačiai, nebent įmonės investuos į tokias galimybes.

Vietoj to, O'Reilly teigia, kad nuolatinis poreikis maksimaliai padidinti akcininkų grąžą verčia įmones naudoti automatizavimą tik kaip būdą sutaupyti pinigų. Pavyzdžiui, jis smerkia, kaip didelės korporacijos pakeičia visą darbo dieną dirbančius darbuotojus mažo atlyginimo ne visą darbo dieną dirbančiais darbuotojais, kurių tvarkaraščiai yra manipuliuojami programine įranga, kuri, sako O'Reilly, juos traktuoja kaip vienkartinius komponentus. Pasak jo, sutaupytos lėšos pernelyg dažnai skiriamos akcijų supirkimui ir kitai finansinei veiklai, o ne moksliniams tyrimams ir plėtrai, kapitalo investicijoms, darbuotojų mokymui ir kitiems dalykams, kurie linkę sukurti geras naujas darbo vietas.

Susijusi istorija

Susijusi istorija Beveik kiekvienas AI pažanga, apie kurią girdėjote, priklauso nuo trijų dešimtmečių senumo proveržio. Norint išlaikyti pažangos tempą, reikės susidurti su rimtais AI apribojimais.

Tai iš tikrųjų prieštarauja įmonių interesams ilgalaikėje perspektyvoje, nes šiandien gerai apmokami darbuotojai gali sau leisti būti ateities produktų klientais. Tačiau įmones suklaidina atlygis už trumpalaikį sąnaudų mažinimą, kurį O'Reilly vadina neišnagrinėtais algoritmais, valdančiais mūsų ekonomiką. Ir priduria jis, nepaisant visų kalbų apie sutrikimus, Silicio slėnis pernelyg dažnai yra šios sistemos pavergtas.

Ką daryti? Be kita ko, O'Reilly siūlo didinti minimalų atlyginimą ir apmokestinti robotus, anglies dvideginio emisijas ir finansines operacijas. Jis mano, kad užuot siekę IPO ir žaisti Wall Street žaidimą, technologijų verslininkai turėtų skleisti turtus su kitais modeliais, pavyzdžiui, kooperatyvais ir investicinėmis struktūromis. kad atlyginama už ilgalaikį mąstymą . Kalbant apie universalias bazines pajamas, seną idėją, kuri vėl kyla dėl baimės, kad kompiuteriai padarys žmogaus darbą bevertį, O'Reilly atrodo atvira galimybei, kad kada nors to prireiks. Bet jis to dar nekviečia. Iš tiesų, atrodo, kad vaizduotės nesėkmė daro prielaidą, kad kitas žingsnis nuo to, kur esame dabar, yra tiesiog atsisakyti perspektyvos, kad dauguma žmonių turės darbą.

Šiandieniniame politiniame klimate mokesčių didinimas ir kiti žingsniai, kuriuos propaguoja O'Reilly, gali atrodyti taip toli, kaip kompiuteris, verčiantis vaikiną manyti, kad jo žmona prisikėlė. Bet bent jau O'Reilly nerimauja dėl tinkamų problemų. Dar gerokai prieš tai, kai kas nors suprato, kaip sukurti superintelektą, sveikas protas – žmogiškoji versija – gali mums pasakyti, kad nestabilumą jau sukelia ekonominė nelygybė tik didės jei AI naudojamas galams susiaurinti. Vienas dalykas aiškus: superintelekto negausime, jei Silicio slėnį šakėmis užlies 99 procentai.

Brianas Bergsteinas yra redaktorius MIT technologijų apžvalga ir redaktorius Neo.Gyvenimas .

paslėpti