Kaip mes manome apie tokius robotus

Kadangi robotai tampa pakankamai protingi, kad aptiktų mūsų jausmus ir tinkamai reaguotų, jie gali patirti kažką panašaus į savo emocijas. Tačiau tai nebūtinai padarys juos panašesnius į žmones. Autorius

• Luizos salė archyvo puslapis

2017 m. spalio 24 d

Delcan & Company + Jenue

Octavia, humanoidinis robotas, skirtas kovoti su gaisrais karinio jūrų laivyno laivuose, įvaldė įspūdingą veido išraiškų spektrą.

Kai ji išjungta, ji atrodo kaip žmogaus dydžio lėlė. Ji turi glotnų baltą veidą su įtempta nosimi. Jos plastikiniai antakiai lygiai guli ant kaktos kaip dvi apvirtusios kanoja.

Ši istorija buvo mūsų 2017 m. lapkričio mėnesio numerio dalis

• Žr. likusią numerio dalį
• Prenumeruoti

Tačiau kai ji užsideda, jos akių vokai praskrenda ir ji pradeda rodyti emocijas. Ji gali linktelėti galva, parodydama supratimo gestą; ji gali išplėsti akis ir pakelti abu antakius įtikinamai sunerimusi; arba ji gali pakreipti galvą į vieną pusę ir susukti burną, atkartodama žmogišką painiavą. Siekdama komiško efekto, ji gali net išlenkti vieną antakį ir susiaurinti priešingą akį, kartu baksteldama metaliniais pirštais, tarsi planuodama roboto keršto veiksmus.

Tačiau Oktavijos veido išraiškų įvairovė nėra įspūdingiausias jos bruožas. Nuostabu yra tai, kad jos emocinis poveikis yra tikslus atsakas į jos sąveiką su žmonėmis. Pavyzdžiui, ji atrodo patenkinta, kai atpažįsta vieną iš savo komandos draugų. Ji atrodo nustebusi, kai komandos draugas duoda komandą, kurios ji nesitikėjo. Ji atrodo sutrikusi, jei kas nors sako tai, ko ji nesupranta.

Ji gali parodyti tinkamą emocinį poveikį, nes apdoroja didžiulius kiekius informacijos apie savo aplinką. Ji gali matyti, girdėti ir liesti. Ji vaizdžiai apžvelgia aplinką, naudodama dvi akyse įmontuotas kameras, ir analizuoja tokias savybes kaip veido bruožai, veido spalva ir drabužiai. Ji gali aptikti žmonių balsus naudodama keturis mikrofonus ir balso atpažinimo programą, vadinamą Sfinksu. Ji gali liesti atpažinti 25 skirtingus objektus, išmokusi juos pirštais fiziškai manipuliuoti jais įvairias galimas padėtis ir formas. Apibendrinant, šie suvokimo įgūdžiai sudaro jos įkūnytos kognityvinės architektūros dalį, kuri, pasak jos kūrėjų iš Karinio jūrų laivyno Dirbtinio intelekto taikomųjų tyrimų centro, leidžia mąstyti ir veikti panašiai kaip žmonės.

Tai jaudinantis teiginys, bet nebūtinai šokiruojantis. Esame pripratę prie idėjos, kad mašinos veikia kaip žmonės. 18-ojo amžiaus Prancūzijoje sukurti automatai galėjo šokti, stebėti laiką ir groti būgnais, cimbolu ar pianinu. Kai vaikas auga devintajame dešimtmetyje, kažkodėl troškau lėlės, reklamuojamos dėl galimybės šlapintis į kelnes.

„Octavia“ gali perteikti išraiškas, tačiau pasirodo, veido išraiškos nėra būtinos, kad žmonės jaustųsi emociškai prisirišę prie savo robotų. JAV karinio jūrų laivyno tyrimų laboratorija

Netgi esame pripratę prie idėjos apie mašinas, kurios mąsto taip, kad mums primena žmones. Daugelį mūsų ilgai puoselėtų aukšto vandens ženklų, skirtų žmogaus pažinimui – pavyzdžiui, gebėjimą įveikti šachmatų didmeistrią arba sukurti metriniu tikslumu sonetą – kompiuteriai pasiekė ir pranoko.

Tačiau atrodo, kad Oktavijos veiksmai – baisu išsiplėtusios akys, sumišusi plastmasinių antakių raukšlė – žengia dar toliau. Jie reiškia, kad ji ne tik mąsto taip, kaip mes galvojame, bet ir jaučia žmogiškas emocijas.

Iš tikrųjų taip nėra: pasak Gregory'io Traftono, vadovaujančio Karinio jūrų laivyno AI centro intelektualiųjų sistemų skyriui, Oktavijos emocinis poveikis yra skirtas tik parodyti, kokį mąstymą ji daro, ir palengvinti žmonėms su ja bendrauti. Tačiau ne visada įmanoma nubrėžti ribą tarp mąstymo ir jausmų. Kaip pripažįsta Traftonas, aišku, kad žmonių mintys ir emocijos yra skirtingos, tačiau turi įtakos viena kitai. Ir jei, kaip jis sako, emocijos daro įtaką pažinimui, o pažinimas – emocijas, Oktavijos gebėjimas mąstyti, mąstyti ir suvokti atkreipia dėmesį į kai kuriuos didesnius klausimus, kurie lydės intelektualių mašinų atsiradimą. Kuriuo momentu mašinos bus pakankamai protingos, kad ką nors pajustų? Ir kaip mes iš tikrųjų žinotume?

Personalizuoti jausmai

Octavia yra užprogramuota proto teorija, o tai reiškia, kad ji gali numatyti savo žmonių komandos draugų psichines būsenas. Ji supranta, kad žmonės gali turėti prieštaringų įsitikinimų ar ketinimų. Kai Oktavijai duodama komanda, kuri skiriasi nuo jos lūkesčių, ji vykdo modeliavimą, kad išsiaiškintų, ką gali galvoti komandą davęs komandos draugas ir kodėl jis mano, kad šis netikėtas tikslas yra pagrįstas. Ji tai daro peržvelgdama savo pasaulio modelius, bet juos šiek tiek pakeisdama, tikėdamasi rasti tokį, kuris veda į užsibrėžtą tikslą. Kai ji pakreipia galvą į vieną pusę ir suraukia antakius, tai reiškia, kad ji vykdo šiuos modeliavimus, bandydama geriau suprasti savo komandos draugo įsitikinimus.

Mes vis dar nežinome visko, kas susiję su emocijų jausmu.

Octavia nėra užprogramuota emociniais modeliais. Jos proto teorija yra pažinimo modelis. Tačiau ji veikia panašiai kaip empatija, kuri yra brangiausia iš visų žmogaus emocijų.

Kiti robotų gamintojai sprendžia savo mašinų emocinio intelekto problemą. Pavyzdžiui, „SoftBank Robotics“, parduodanti Pepper – malonų ir simpatišką robotą humanoidą, sukurtą kaip žmogaus kompanionas, – tvirtina, kad Pepper gali suvokti žmogaus emocijas, ir priduria, kad Pepper mėgsta su jumis bendrauti, o Pepper nori daugiau sužinoti apie jūsų skonį. savo įpročius ir tiesiog tai, kas jūs esate. Tačiau nors Pipiras gali atpažinti žmogaus emocijas ir nors Pipiras gali reaguoti linksmomis šypsenomis ar liūdesio išraiškomis, niekas netvirtina, kad Pipiras iš tikrųjų jaučiasi tokios emocijos.

Ko reikėtų, kad roboto kūrėjas tai teigtų? Viena vertus, mes vis dar nežinome visko, kas susiję su emocijų jausmu.

Apžvelgti dalykai

• Kultūra ir žmogaus ir roboto sąveika militarizuotose erdvėse: karo istorija

  Julie Carpenter
  Routledge, 2016 m

• Kaip kuriamos emocijos: slaptas smegenų gyvenimas

  Lisa Feldman Barrett
  Houghtonas Mifflinas Harcourtas, 2017 m

• JAV armijos robotų ir autonominių sistemų strategija

  2017 m. kovo mėn

Pastaraisiais metais psichologijos ir neurologijos revoliucijos radikaliai iš naujo apibrėžė pačią emocijų sąvoką, todėl ją dar sunkiau nustatyti ir apibūdinti. Pasak mokslininkų, tokių kaip psichologė Lisa Feldman Barrett, Šiaurės Rytų universiteto profesorė, darosi vis aiškiau, kad mūsų emocijos labai skiriasi priklausomai nuo kultūros, kurioje esame užaugę. Jos netgi labai skiriasi individo viduje įvairiose situacijose. Tiesą sakant, nors mes dalijamės bendrais jausmais, sudarančius tai, kas vadinama afektu (malonumas, nepasitenkinimas, susijaudinimas ir ramybė), su daugeliu kitų žmonių ir daugelio kitų gyvūnų, mūsų aštresnės ir konkretesnės emocijos skiriasi labiau, nei jos atitinka tam tikras normas. Pavyzdžiui, baimė yra kultūriškai sutarta sąvoka, tačiau ji mūsų kūnuose pasireiškia daugybe būdų. Jį įkvepia įvairūs dirgikliai, jis skirtingai pasireiškia mūsų smegenyse ir įvairiai išreiškiamas mūsų veiduose. Smegenyse nėra vieno baimės centro ar baimės grandinės, kaip ir nėra patikimai baimingos veido išraiškos: mes visi apdorojame ir parodome savo baimę radikaliai skirtingais būdais, priklausomai nuo situacijos – būdais, kuriais bendraudami su kitais žmonėmis išmokstame identifikuoti arba pažymėti kaip baimę.

Kai mes kalbame apie baimę, mes kalbame apie apibendrintą skėtinę koncepciją, o ne apie tai, kas išeina iš konkrečios smegenų dalies. Kaip sako Barrettas, emocijas sukuriame vietoje per kūno sistemų sąveiką. Taigi, kaip galime tikėtis, kad programuotojai robotuose tiksliai modeliuos žmogaus emocijas?

Geri kareiviai

Taip pat yra moralinių kliūčių, susijusių su robotų programavimu turėti emocijas. Šias problemas ypač gerai parodo kariniai robotai, kurie, kaip ir „Octavia“, yra sukurti taip, kad būtų siunčiami į bauginančias, skausmingas ar potencialiai mirtinas situacijas vietoje mažiau reikalingų žmonių komandos draugų.

2017 metais vykusioje konferencijoje, kurią remia kariuomenės nerimą kelianti iniciatyva „Pamišusių mokslininkų iniciatyva“, generolas leitenantas Kevinas Mangumas, kariuomenės mokymo ir doktrinų vadovybės vado pavaduotojas, nurodė, kad tokie robotai turėtų ir bus savarankiški. Žvelgdami į mūsų vis sudėtingesnį pasaulį, neabejotina, kad robotika, autonominės sistemos ir dirbtinis intelektas atliks tam tikrą vaidmenį, sakė Mangum. 2017 m. armijos robotų ir autonominių sistemų strategijoje numatoma, kad iki 2040 m. bus visiškai integruotos autonominės sistemos, kurios pakeis šiandieninius bombų šalinimo robotus ir kitas mašinas, kurias nuotoliniu būdu valdo žmonės.

Civilinis treneris parodo desantininkams, kaip nustatyti ekraną mūšio lauko robotui PackBot. Kad ir kokie neišraiškingi atrodytų šie robotai, kariai lauke užmezga su jais ryšius, žiūrėdami į juos kaip į komandos dalį. Michaelas J. McLeodas

Kai šie robotai gali veikti ir mąstyti patys, ar jie, kaip ir Oktavia, turėtų būti užprogramuoti pagal žmogaus emocijas? Ar jie turėtų būti užprogramuoti iš tikrųjų turėti žmogiška emocija? Jei siunčiame juos į mūšį, ar jie turėtų ne tik galvoti, bet ir jaustis kartu su savo žmonėmis?

Viena vertus, žinoma, ne: jei kuriame robotus turėdami aiškų tikslą kelti jiems pavojų, būtų sadistiška suteikti jiems galimybę kęsti siaubą, traumas ar skausmą.

Tačiau, kita vertus, jei emocijos veikia intelektą ir atvirkščiai, ar galime būti tikri, kad robotas be emocijų būtų geras karys? O jei emocijų trūkumas priveda prie kvailų sprendimų, nereikalingos rizikos ar pernelyg žiauraus atpildo? Ar robotas be emocijų gali nuspręsti, kad protingas sprendimas būtų padaryti tai, ką kareivis laiko karo nusikaltimu? O gal robotas, neturintis prieigos prie baimės ar pykčio, priimtų geresnius sprendimus nei žmogus, atsidūręs toje pačioje bauginančioje ir beprotiškoje situacijoje?

Ir tada yra galimybė, kad jei emocijos ir intelektas yra neatsiejamai susiję, nėra tokio dalyko kaip protingas robotas be emocijų. Tokiu atveju klausimas, kiek emocijų turėtų turėti autonominis robotas, tam tikra prasme yra nekontroliuojamas. programuotojo, dirbančio su intelektu.

Emociniai prisirišimai

Taip pat kyla klausimas, kaip šie robotai gali paveikti savo komandos draugus.

Iki 2010 m. JAV kariuomenė pradėjo dislokuoti apie 3000 mažų taktinių robotų flotilę, daugiausia reaguodama į didėjantį savadarbių sprogstamųjų užtaisų naudojimą kare. Vietoj žmonių kareivių šie robotai rieda atvirais keliais, tamsiais urvais ir siauromis durimis, kad aptiktų ir išjungtų nenuspėjamus IED.

Kareiviai pranešė, kad jaučiasi sutrikę, kai tokie mūšio lauko palydovai, kaip čia parodytas Talonas, sunaikinami eidami savo pareigas. Qinetiq

Šį parką daugiausia sudaro iRobot's PackBot ir QinetiQ North America's Talon, robotai, kurie nėra ypač pažangūs. Jie atrodo šiek tiek panašūs į WALL-E, jų metaliniai korpusai subalansuoti ant guminių protektorių, leidžiančių jiems puikiai įveikti akmenuotą reljefą, lipti laiptais ir leistis žemyn tamsiais koridoriais. Jie turi sujungtas rankas su vaizdo kameromis, kad galėtų apžiūrėti aplinką, ir nagais, kad galėtų dirbti su sprogstamaisiais įtaisais.

Jie yra naudingi įrankiai, tačiau jie nėra visiškai savarankiški. Juos, kaip ir žaislinius automobilius, valdo nuotoliniu būdu kareiviai, laikantys įrenginius, kuriuose kartais yra įtaisytos vairasvirtės. Kaip AI pavyzdys, „PackBot“ nėra daug pažangesnis nei geriau žinomas „iRobot“ produktas „Roomba“, kuris siurbia po jūsų foteliu.

Ir vis dėlto net ir dabar, nepaisant neišraiškingos šių robotų prigimties, žmonių kariai užmezga su jais ryšius. Julie Carpenter demonstruoja Kultūra ir žmogaus ir roboto sąveika militarizuotose erdvėse kad šie santykiai yra sudėtingi, naudingi ir skausmingi.

Kai Carpenter paprašė vieno karininko apibūdinti savo jausmus apie sunaikintą robotą, jis atsakė:

Aš turiu galvoje, tai nebuvo akivaizdžiai... beveik tokio paties lygio, kaip, žinai, tavo bičiulis susižeidė, pamatė, kad narys buvo išvežtas ar panašiai. Bet vis tiek buvo tam tikras praradimas, praradimo jausmas, kai kažkas atsitiko vienam iš jūsų robotų.

Kitas karys palygino savo robotą su naminiu šunimi:

Turiu galvoje, tu tuo pasirūpinai taip pat gerai, kaip ir savo komandos nariai. Jūs pasirūpinote, kad jis būtų išvalytas ir kad akumuliatoriai visada būtų įkrauti. Ir jei jo nenaudojote, jis buvo saugiai paslėptas, nes žinojote, kad robotui kas nors nutiks, tada atėjo jūsų eilė, ir niekas nemėgsta taip galvoti.

Dar vienas vyras paaiškino, kodėl jo komandos draugas suteikė jų robotui žmogaus vardą:

Kelionei einant į pabaigą daugiau laiko praleisdavome lauke, miegodami sunkvežimiuose, nei viduje. Geras penkias–šešias dienas per savaitę miegojome savo sunkvežimiuose už laidų, o sunkvežimyje buvo trys vyrai, vienas gulėjo ant priekinių sėdynių; kitas guli skersai bokštelio. Ir mes negalime atsisiųsti jautrių elementų ir palikti juos už sunkvežimio. Viskas turi būti užrakinta, todėl mūsų TALONAS buvo centriniame mūsų sunkvežimio praėjime, o mūsų jaunesnysis vaikinas pavadino jį Danielle, kad jis turėtų moterį, prie kurios galėtų prisiglausti naktį.

„Mano gražus robotas buvo nužudytas...“ – iš tikrųjų tokį pareiškimą padariau savo komandos vadovui.

Visi šie vyrai pabrėžia, kad robotai yra įrankiai, o ne gyvos būtybės, turinčios jausmus. Vis dėlto jie duoda savo robotams žmonių vardus ir saugiai įkiša juos naktį. Jie juokauja apie šį impulsą, tačiau juokuose yra šiek tiek nerimą keliantis disonansas. Panašu, kad kalbinti kariškiai Carpenter jaučiasi kažkiek įstrigę tarp dviejų jausmų: jie supranta absurdiškumą rūpintis bejausmiu robotu, kuris sukurtas taip, kad būtų išnaudotas, tačiau vis dėlto patiria pagundą bent šiek tiek rūpintis.

Kai Carpenter paskelbė savo pirminius interviu, ji daugiau bendravo iš kariuomenės vyrų ir moterų, kurie užmezgė tikrus ryšius su savo robotais. Vienas buvęs sprogmenų šalinimo technikas rašė:

Kadangi esu EOD technikas aštuonerius metus ir tris dislokacijas, galiu pasakyti, kad jūsų tyrimas man pasirodė labai įdomus. Galiu visiškai sutikti su kitais jūsų kalbintais technikos atstovais, sakydami, kad robotai yra įrankiai, todėl aš juos atsiųsiu į bet kokią situaciją, nepaisant galimo pavojaus.

Tačiau per misiją Irake 2006 m. pamečiau robotą, kurį pavadinau Stacy 4 (mano žmonos, kuri taip pat yra EOD technika), vardu. Ji buvo puikus robotas, kuris niekada man nekėlė problemų, visada veikė nepriekaištingai. „Stacy 4“ buvo visiškai sunaikinta ir man pavyko atkurti tik labai mažas važiuoklės dalis. Iš karto po sprogimo, kuris sunaikino Stacy 4, vis dar prisimenu pykčio jausmą ir daug jo. Mano gražus robotas buvo nužudytas... iš tikrųjų tokį pareiškimą padariau savo komandos vadovui. Kai misija buvo baigta ir aš atgavau tiek roboto, kiek galėjau, verkiau ją praradęs. Jaučiausi taip, lyg būčiau praradęs brangų šeimos narį. Tą vakarą paskambinau žmonai ir jai taip pat apie tai papasakojau. Žinau, kad tai skamba kvailai, bet vis tiek nekenčiu apie tai galvoti. Žinau, kad mūsų naudojami robotai yra tik mašinos ir aš dar kartą priimčiau tuos pačius sprendimus, net žinodamas rezultatą.

Vertinu žmogaus gyvybę. Vertinu santykius su tikrais žmonėmis. Bet galiu pasakyti, kad tikrai pasiilgau Stacy 4, ji buvo gera robotė.

Jei tokius atsiliepimus galima gauti iš karių, bendraujančių su beveidėmis mašinomis, tokiomis kaip „PackBots“ ir „Talons“, ką išgirstumėte iš karių, dislokuotų su tokiais robotais kaip Oktavia, kurie mato, girdi, liečia ir gali numatyti savo komandos draugų proto būsenas. ?

Populiariuose pokalbiuose apie jausmų suteikimo robotams etiką esame linkę sutelkti dėmesį į tokių technologinių naujovių poveikį patiems robotams. Filmai ir TV laidos iš Ašmenų bėgikas į Vakarų pasaulis patirti traumą, kurią jaučiantiems robotams sukeltų žmonės, naudodami juos savo pramogoms. Tačiau reikia atsižvelgti ir į priešingą pusę: traumą, padarytą žmonėms, kurie susiriša su robotais ir siunčia juos į tam tikrą mirtį.

Susijusi istorija

Susijusi istorija Atsirandanti dirbtinio intelekto tendencija – priversti kompiuterius aptikti, kaip jaučiamės, ir atitinkamai reaguoti. Jie netgi gali padėti mums išsiugdyti daugiau užuojautos vienas kitam.

Visa tai dar labiau apsunkina tai, kad jei toks robotas kaip Octavia pajus žmogiškas emocijas, tie jausmai bus ne tik jai suteiktos pažintinės architektūros rezultatas. Jei jos panašios į mūsų emocijas, jos vystysis atsižvelgiant į jos santykius su komandos draugais, jos vietą pasaulyje, kuriame ji gyvena.

Pavyzdžiui, jei jos unikalus roboto gyvenimas praleidžiamas siųsdamas į gaisrus jos kompanionų arba trypčiodamas viena dykumos keliais, nusėtas sprogstamaisiais įtaisais, jos emocijos skirsis nuo tų, kurias patiria labiau apsaugotas robotas ar labiau apsaugotas. žmogus. Nepriklausomai nuo atpažįstamų jos emocinių išraiškų, jei ji visą gyvenimą praleidžia nežmoniškose situacijose, jos emocijos gali būti neatpažįstamai žmogiškos.

Louisa Hall, rašytoja Niujorke, yra autorė Kalbėk , 2015 metų romanas apie dirbtinį intelektą.

paslėpti