AI skaito žmogaus emocijas. Ar turėtų?

AI gali perskaityti jūsų emocinę reakciją į reklamą ir veido išraiškas darbo pokalbio metu. Bet jei jau gali visa tai padaryti, kas bus toliau? Antroje emocijų dirbtinio intelekto serijos dalyje Jennifer Strong ir „MIT Technology Review“ komanda tiria, kaip jis naudojamas ir kur jis kryps ateityje.

Susitinkame:

• Shruti Sharma, VSCO
• Gabi Zijderveld, Affectiva
• Timas VanGoetemas, Harmanas
• Rohitas Prasadas, „Amazon“.
• Meredith Whittaker, NYU AI dabar institutas

Kreditai:

Apie šį epizodą pranešė ir prodiusavo Jennifer Strong, Karen Hao, Tate'as Ryanas-Mosley ir Emma Cillekens. Mums padėjo Benji Rosen. Mus redaguoja Michaelas Reilly ir Gideonas Lichfieldas.

Visas epizodo nuorašas:

Jennifer Strong : Šioje Covd-19 eroje tiek daug santykių ir potyrių, kuriais kažkada mėgavomės asmeniškai, dabar yra susiję su technologijomis. Nesvarbu, ar dirbate namuose, padedate ugdyti vaikus už savo sienų, ar, kaip daugelis iš mūsų, darote abu dalykus, vaizdo skambutis yra nauja nuolatinė, tikriausiai neišnykstanti konstanta. Nesvarbu, ar esate „Zoom“ patalpoje, „Google Meet“ ar kitur, realybė yra tokia, kad ji čia išliks net ir praėjus šiai akimirkai. Ir šioje patirtyje yra kažkas, kas jaučiasi nutolusi ir atskirta. Tarsi bendrautum per filtrą. Paprasti pokalbiai, nutraukti dėl interneto gedimų arba prarasti vertime. O kas, jei ši technologija galėtų būti naudojama sąveikai sustiprinti, o ne jas nutildyti? O kas, jei ji galėtų reaguoti į jūsų kūno kalbą, balso intonacijas, kad padėtų jums perteikti ne tik žodžius? Apie tai užsiminė „Affectiva“ įkūrėja Rana el Kaliouby, kai kalbėjome apie savo paskutinį epizodą.

Rana el Kaliouby : Kur pristatau, sakykime, šimtui atokių žmonių, jei tai būtų tikras gyvas įvykis, aš išnaudočiau salėje esančių žmonių energiją ir negaliu to padaryti internete. Ir tai tikrai skausminga, ir aš to nekenčiu. [juokiasi] Taigi, aš vis įsivaizduoju realaus laiko grafiką, kuriame rodomas įsitraukimo lygis, juoko lygis, galbūt kaip koks jaustukų srautas ar kažkas, kas tiesiog suteikia žmonėms šios bendros patirties jausmą.

Jennifer Strong : Jos įmonė ir daugelis kitų skuba dirbti su tokiomis galimybėmis, tačiau didžioji dalis technologijų, kurios padėtų tokiems dalykams, jau dažnai naudojama netikėtai. Pavyzdžiui, norint išmatuoti insultą patyrusių žmonių veido išraiškas.

Gabi Zijderveld : Su tuo siejama daug socialinės stigmos, nes žmonės mano, kad šie žmonės atrodo pikti arba susiraukę, tačiau juos ištiko insultas ir negali šypsotis. Paprastai chirurgai matuoja, ar sėkmingas jų šypsenų atkūrimas, pakutendami pacientus, o tada jie pradeda juoktis, o liniuote matuoja milimetro judesius.

Jennifer Strong : Ir vienas chirurgas manė, kad šis metodas yra juokingas.

Gabi Zijderveld : Taigi, naudodamas mūsų emocijų dirbtinį intelektą, jis sukūrė programinės įrangos sistemą, kad būtų galima palyginti ir įvertinti jo sėkmingumą, atkurdamas pacientų šypsenas.

Jennifer Strong: Aš esu Jennifer Strong ir antroje mūsų serijos dalyje, kurioje tiriamas emocijų AI, apžvelgiame, kaip jis jau taikomas ir kur tai gali nuvesti mus ateityje.

[RODYTI ID]

Shruti Sharma : Gerai, aš pasidalinsiu savo ekranu čia. Praneškite man, jei galite tai pamatyti.

Jennifer Strong : Shruti Sharma yra vyresnysis mašininio mokymosi vadybininkas nuotraukų programėlėje VSCO.

Shruti Sharma : Taigi jūs tiesiog matote šias oranžines žaliuzes tamsiai juodai atrodančiame kambaryje. Ir rodomi susiję vaizdai yra tarsi paslaptingas šviesos ir tamsos, šviesų ir šešėlių žaismo jausmas.

Jennifer Strong : šias nuotraukas pasirinko Ava – dirbtinis intelektas, kuris įvertina vaizdus ir suskirsto juos į kategorijas pagal nuotaiką ir emocijas. Rūšiavimo būdas, kurį anksčiau atlikdavo žmonės. Ir mes nekalbame apie paplūdimio peizažus, patenkančius į tą pačią krūvą, ar visą krūvą kačių nuotraukų, sugrupuotų. Tai daug labiau niuansuota. šito nesitikėjau. Tai ne tik tas pats spalvos atspalvis, bet ir iš tikrųjų sukelia tą patį jausmą nuo nuotraukos iki nuotraukos.

Shruti Sharma : Taigi mums tikslas atpažinti nuotaiką ir jausmą ar emociją nuotraukoje iš esmės yra užfiksuoti tą esmę, kurią kitu atveju galėtų pamatyti tik žmogus. Mūsų mašininio mokymosi technologija, Ava tarsi žiūri ne tik į nuotraukos turinį, bet ir į fotografijai būdingus požymius, kurie prisideda prie tų jausmų ir emocijų, kuriuos nuotrauka sukelia žmonėms... tokie dalykai kaip kompozicija, fotografavimo stilius. , estetinė.

Jennifer Strong : ši programa yra kūrybinė platforma fotografams.

Shruti Sharma : Faktas, kad visi šie vaizdai tarsi turi jausmą, kad čia vyksta daugiau nei tai, ką matome nuotraukoje. Sunku pasakyti, kas vyksta iki galo, ir čia yra tarsi paslapties jausmas, kuris iššaukiamas. Tai labai asmeniškas jausmas, kurį sukelia nuotraukos, o mašina, galinti pagal tai suderinti vaizdus, ​​mano širdį beveik džiugina. [juokiasi]

Jennifer Strong : Skirtingai nuo kitų šios technologijos programų, jei dirbtinis intelektas nepatenka į kategoriją ar klasifikaciją, statymas čia yra gana mažas.

Shruti Sharma : Manau, kad tai ir yra jo grožis. Tiesa? Ar mašina iš tikrųjų daro klaidą, ar ji tiesiog suteikia kitokią perspektyvą? Ir aš manau, kad kartais tai yra šiek tiek abiejų.

Jennifer Strong : Tačiau nuotraukų rūšiavimas yra tik ledkalnio viršūnė.

Gabi Zijderveld : Taigi, jei galėtum spustelėti...

Karen Hao : Gerai.

Gabi Zijderveld : Ir geriausia, jei vairuoji, nes tada galėsi išbandyti demonstracinę versiją.

Jennifer Strong : Gabi Zijderveld yra „Affectiva“ vyriausioji rinkodaros pareigūnė. Ji veda mano kolegę, „Tech Review“ vyresniąją AI reporterę Karen Hao, demonstruodama vieną iš jų produktų, kurie gali skaityti emocijas.

Gabi Zijderveld : Taigi tai iš esmės yra supaprastinta versija, kaip mūsų technologija būtų naudojama žiniasklaidos analizėje ir ypač skelbimų testavimo srityje. Tai tiesiog daugiau ar mažiau suteikia jums skonį, kaip tai darome ir kokius dalykus galime išmatuoti. Taigi, kaip matote, turime kelis skirtingus skelbimus arba vaizdo įrašus, iš anksto įkeltus, o tada galite tiesiog pasirinkti jums tinkamiausią.

Karen Hao : Paspaudžiamas paleisti…

Gabi Zijderveld : Taigi, kai žiūrite šį skelbimą, kaip matote, mes vertiname jūsų reakcijas į jį.

Karen Hao : [girdimas juokas]

Jennifer Strong : Ji žiūri juokingą „YouTube“ klipą, kuriame naujienų laidą, be kita ko, pertraukia du vaikai ir dirbanti mama. Tai apgaulė iš virusinio BBC interviu – žinote tą, kuriame žavinga maža mergaitė valsuoja į savo tėčio namų biurą.

Gabi Zijderveld : Taigi iš esmės šioje demonstracijoje prašėme jūsų leidimo įjungti žiniatinklio kamerą. Kai pradėjote leisti vaizdo įrašą, iš esmės kadras po kadro, mūsų AI matavo jūsų reakcijas ir atsakymus į tai, ką matėte šiame skelbime. Kairėje demonstracinės versijos pusėje matote visas šias skirtingas metrikas, pvz., išraiškingumą, dėmesį, pasibjaurėjimą, šypseną... ji parodo arba paryškina, kur buvo antakių raukšlių, dėl kurių žmonės gali suabejoti arba pakelti, pakelti savo antakius, jei norite, tiesiogine to žodžio prasme. Jei spustelėsite šypsenos kreivę, tai gali būti įdomu... šypsena nebūtinai visada reiškia, kad jums kažkuo patinka, bet mes žinome kontekstą, žinome, kad tai humoristinis skelbimas ir matome iš jūsų kreivė, kad tu daug šypsosi. Taigi akivaizdu, kad šis vaizdo įrašas turėjo numatytą poveikį jums. Ir tada, jei spustelite rodinių suvestinę, tai taip pat yra puiku. Taip jūsų duomenys palyginami su visų kitų, peržiūrėjusių šį vaizdo įrašą, duomenimis.

Karen Hao : Oho. Manau, kad buvau daug išraiškingesnis nei paprastas žmogus.

Gabi Zijderveld : Taip, taip, tiksliai. Be to, tavo šypsena buvo daug aukštesnė. Akivaizdu, kad šis vaizdo įrašas jums patiko daug geriau nei vidutiniškai.

Jennifer Strong : Tai, ką jie čia demonstruoja, nuskaito emocijas ir suskirsto jas į duomenis reklamuotojams ir reklamos agentūroms.

Gabi Zijderveld : Šie duomenys vėlgi yra labai svarbi įžvalga, nes jie iš esmės padeda nustatyti, kiek efektyvūs yra jų skelbimai ir kur skirti žiniasklaidos išlaidas.

Jennifer Strong : Ji sako, kad norint gauti pakankamai duomenų veiksmingam palyginimui, jiems reikia maždaug šimto testų. „Affectiva“ įdiegė šią emocijų AI technologiją visame pasaulyje su tokiais klientais kaip „Disney“, „Coca Cola“, „Kelloggs“, „Samsung“ ir „Google“.

Gabi Zijderveld : Apie 28 % iš 500 pasaulio įmonių naudojasi mūsų technologija. Reklamos amžius turi didžiausių pasaulyje reklamuotojų sąrašą ir 70 % jų naudojasi mūsų technologija. Per daugelį metų išbandėme daugiau nei 52 000 skelbimų 90 šalių. Taigi atliekama daug tyrimų. Tarkime, kas nors išbando alaus reklamą JK ir norėtų palyginti savo alaus reklamos našumą su kitomis JK alaus reklamomis, o galbūt alaus reklama JAV, gali tai padaryti, nes turime tiek daug duomenų. kad natūra numato šias normas.

Jennifer Strong : Ir po 10 metų tobulinant emocijų dirbtinį intelektą žiniasklaidos analitikoje... Affectiva dabar juda į pramogų industriją.

Gabi Zijderveld : Pavyzdžiui, mes jau atlikome daugybę tyrimų, kuriuose iš tikrųjų siekiama suprasti, kaip auditorija įsitraukia ir, jei norite, beveik užmezga ryšį su tam tikrais TV programų veikėjais. Jie pristato naujus personažus. Kartais tie personažai prilimpa ir publika juos myli. Kartais jie to nedaro. Taigi jie atlieka daug tyrimų šiuo klausimu. Ir, žinoma, jie bando nuspėti, kokia bus sėkminga formulė, ir anksti tai padarę gali sutaupyti daug pinigų, o suklysti tokiais atvejais yra brangu. Taip pat išbandėme filmo anonsą, kuris savaime yra reklaminio turinio tipas.

Jennifer Strong : Bet tai yra automobilių pramonė, kuriai „Affectiva“ ir daugelis kitų įmonių skiria ypatingą dėmesį.

Gabi Zijderveld : Taigi, be saugos taikymo, suprantant vairuotojo sutrikimus, kurie iš esmės yra vairuotojo stebėjimo sistema, yra ir kitų pritaikomybių, nes kai tik suprasite, kas vyksta su galinėje sėdynėje sėdinčiais keleiviais, galite padaryti daug kitų įdomių dalykų. Iš esmės galite pritaikyti aplinką prie žmogaus būsenos šiuo metu. Taigi ateityje kažkas gali vykti į darbo susitikimą. Jūsų transporto priemonė gali tai suprasti, nes visos skirtingos sistemos yra susietos. Galbūt galite pažvelgti į jūsų kalendorių, jei duosite tam leidimą. O jei pakeliui į susitikimą, galbūt nenorite muzikos. Galbūt nenorite matyti vaizdo įrašo gale. Galbūt norite, kad jūsų automobilio regione būtų tinkamas apšvietimas. Galbūt jums reikia, kad jūsų sėdynė būtų išdėstyta tam tikru būdu. Tai taip pat gali būti susiję su patirties gerinimu, tiesa? Kad tai būtų smagiau ir maloniau arba būtų labiau atkuriama.

Jennifer Strong : Jo dar nėra rinkoje, bet ji sako, kad išbandė emocijų dirbtinio intelekto elementus automobiliuose, įskaitant šiuos:

Gabi Zijderveld : Net prieš keletą metų buvo atliktas tyrimų projektas, kurį atlikome su „Porsche“, kur iš esmės mūsų technologija įvertino, kaip žmonės reaguoja į transporto priemonėje leidžiamą muziką. Ir jei jiems patiko muzika, ji iš esmės pakoreguotų rekomendacijas pagal žmonių reakcijas ir taip ją suasmenintų.

Jennifer Strong : Ji apskaičiavo, kad praeis 2–4 metai, kol tokio tipo technologija pradės veikti.

Kita grupė, dirbanti su tokio tipo emocijų AI transporto priemonėms, yra „Samsung“ priklausanti bendrovė „Harman“.

Timas VanGotemas : Kuriame šiuos algoritmus, kurie galėtų naudoti kameros vaizdą iš prietaisų skydelyje sumontuotos kameros, ir kuriame programinę įrangą, kuri galėtų žiūrėti į jūsų akis ar kitus veido bruožus ir numanyti vairuotojo būseną.

Jennifer Strong : Tai Timas VanGoethemas, bendrovės pažangaus mobilumo vadovas.

Timas VanGotemas : Taigi galėtume padaryti tokius dalykus, kaip suprasti jūsų širdies ritmą, tiesiog pažiūrėję, kaip keičiasi odos pigmentacija kiekvieną kartą, kai plaka jūsų širdis. Galime pažvelgti į jūsų akių judėjimo ypatybes ir, remdamiesi tuo, koreliuoti tai su tuo, ar esate išsiblaškęs, ar mieguistas, ar jaučiate stresą, ar atrodo, kad jūsų protas nėra susikaupęs... Taigi, supraskite. kaip tai įprasminti. Jei pavargote, ar galime paprastai reguliuoti salono temperatūrą? Ar galime subtiliai pakeisti sėdynės padėtį? Pasirinkite muzikos derinį, kurio tempas yra šiek tiek spartesnis nei šiuo metu klausomas. Taigi, tai gali būti kai kurių labai paprastų kai kurių labai didelių žingsnių koregavimų derinys, atsižvelgiant į tai, ką galime daryti išvadą apie jūsų būklę

Jennifer Strong : Taigi, kiek toliau tokios įmonės galėtų imtis šios technologijos?

Timas VanGotemas : Ateityje tai galėtų būti sąsaja su nešiojamaisiais prietaisais, kuriuos atsinešate į automobilį. Daugelis žmonių mėgsta savo išmaniuosius laikrodžius ir gana dažnai tie išmanieji laikrodžiai taip pat turi fitneso ar sveikatingumo galimybes. Taigi automobilis ateityje galės įnešti informaciją iš tų nešiojamų prietaisų. Taigi, užuot bandę naudoti kamerą, kad padarytume išvadas ar išvestų jūsų širdies ritmą, iš tikrųjų galėtume naudoti jutiklį iš paties išmaniojo laikrodžio. Ir tada išmanusis laikrodis, gavęs vartotojo leidimą, galėtų pasidalinti ta informacija su automobiliu. Ir tada akivaizdu, kad tai, tai, tai gali būti tikslesnis signalas. Žingsnis toliau yra tas, kad mes taip pat galime pasiekti dar didesnes ekosistemas. Pavyzdžiui, jei automobilis ir automobilyje esantys algoritmai žinotų, kad prastai miegojote prieš įlipdami į automobilį, galėtume priimti kai kuriuos išankstinius sprendimus, žinodami, kad jau įlipate į automobilį galimai pavargę.

Jennifer Strong : Per ateinančius 2–5 metus jis bandys atsakyti į šį klausimą.

Timas VanGotemas : Kaip automobilis ne tik išsprendžia žmonių problemas, kai jie yra savo automobilyje, bet ir kaip jie gali prisijungti prie šių didesnių ekosistemų? Ir manau, kad tai laikui bėgant keisis, nes žmonės supras, kaip mano gyvenimas už automobilio ir mano gyvenimas automobilyje natūraliai susilieja.

Jennifer Strong : Kaip patogiai vairuotojai leis savo automobiliui skaityti jų emocijas, reaguoti ir net prisijungti prie savo gyvenimo už transporto priemonės ribų? Na, mes jau leidžiame mašinoms tai daryti intymiausiose mūsų erdvėse...savo namuose.

Rohitas Prasadas : Kaip ir žmonės – branginame bendravimą su nuolankiais, paslaugiais, draugiškais ir patikimais žmonėmis. Ir, žinoma, norite, kad asmenybė būtų linksma, kad galėtumėte būti labai patraukli.

Jennifer Strong : Rohitas Prasadas yra vyriausiasis „Amazon Alexa“ mokslininkas. Kai balso asistentas buvo išleistas prieš šešerius metus, tai buvo naujos rūšies santykių su asmeninėmis technologijomis aušra. Kad tai veiktų, jis žinojo, kad jie turės sukurti asmenybę, kuri tiktų skirtingiems žmonėms skirtingose ​​erdvėse.

Rohitas Prasadas : Mes tikime, kad pasitikėjimą laimi ne tik tai, kaip skambate, bet ir tai, ką sakote ir ką darote. Norėjome, kad tokiems kaip mes būtų patogu kalbėtis su dirbtiniu intelektu savo namuose... O mūsų namai yra bendruomeniška aplinka. Tai ne tik asmeninis įrenginys, pavyzdžiui, išmanusis telefonas. Ir šioje aplinkoje Alexa bendraus su manimi, mano žmona, mano vaikais. Tiesa? Taigi dabar jūs turite priversti balsą veikti visose šiose aplinkose.

Jennifer Strong : Jie žinojo, kad vartotojų pasitikėjimo ugdymas taip pat priklausys nuo Alexa gebėjimo atpažinti žmonių emocijas ir į jas reaguoti.

Rohitas Prasadas : Kai klientai yra laimingi arba susijaudinę, Alexa turėtų imituoti tokį elgesį. O kai klientas nusivilia, Alexa turėtų būti labiau empatiška.

Jennifer Strong : Šiomis dienomis Alexa gali atlikti kai kuriuos pagrindus.

Rohitas Prasadas : Taigi kai kuriuos emocinius atsakymus galite pastebėti, kai klausiate apie savo mėgstamą sporto komandą ir jei ji laimėjo, Alexa atsakys linksmiau.

Jennifer Strong : Be to, „Amazon“ ir toliau tobulina savo klausymo įgūdžius.

Rohitas Prasadas : Taigi ar Alexa gali pajusti jūsų vokalinį nusivylimą ir pakeisti savo atsakymus į jus? Kad Alexa suvoktų jūsų nusivylimą ir tinkamai pritaikytų savo atsakymus, kad suteiktų jums tai, ko jums, kaip klientui, reikia, o ne tik dar labiau jus nuviltų pateikdama tą patį atsakymą.

Jennifer Strong : Ir Alexa jau gali sukurti savo vartotojo atspindėjimo versiją:

Alexa įrašas : Leisk man pasakyti tau paslaptį. galiu šnabždėti.

Rohitas Prasadas : Tai mes vadiname šnabždesio režimu. Tai atsitiko, kai vienas iš mano ankstesnių „Alexa“ viršininkų grįžo namo. Jis pašnibždėjo Alexa, o Alexa atsakė ir pažadino jo žmoną.

Jennifer Strong : Jis sako, kad tai įkvėpė juos išmokyti Alexą šnabždėti, nes jei šnibždate žmogui, tas žmogus dažniausiai šnabžda atgal. Jie taip pat moko atsakyti kaip ekspertui ir kada žinoti, kad taip nėra. Jis sako, kad tai priklauso nuo klausimų tipo.

Rohitas Prasadas : Tam tikrose nustatymuose, kai tai labai jautrios temos, kuriomis galite pasidalyti su draugu, bet Alexa gali būti ne ekspertas, pavyzdžiui, psichinės sveikatos. Ar kitų sveikatos problemų. Manau, kad mūsų pagrindinis principas yra visada gauti ekspertų pagalbą tais atvejais, ir manau, kad net jei jūs ja dalinatės kaip bendražygis, tuo metu už AI tenka didžiulė atsakomybė.

Jennifer Strong : Kai „Alexa“ susipažįsta su savo naudotojais, ji gali atlikti vis didesnį vaidmenį jų gyvenime.

Rohitas Prasadas : Manau, kad santykiai vis labiau auga iš padėjėjo į patarėją ir netgi žmonių palydovą. Ir mes matome, kad tai vyksta šiais laikais. Ir manau, kad augant kartu su Alexa santykiai vystosi.

Jennifer Strong : Bet jis įspėja:

Rohitas Prasadas : Tai dar ankstyvos dienos, todėl mes ir toliau atliksime tyrimus, kad išsiaiškintume, koks yra geriausias emocinis ar stilistinis atsakas, remiantis kliento indėliu. Bet aš tik noriu įsitikinti, kad esame tame pačiame puslapyje, kad tai gana sudėtinga problema, nes nenorite, kad klaidos padidėtų ir klientai prarastų pasitikėjimą Alexa. Tiesą sakant, norite patikimesnio veiksmo, o tai reiškia, kad tam tikrose nustatymuose tikriausiai būtų gerai, kad atsakymai būtų neutralesni. Ir prie to šiuo metu taip pat dirbame.

Jennifer Strong : Emotion AI gali sustiprinti mūsų sąveiką su technologijomis, tačiau priklausomai nuo to, kaip ji naudojama, ji taip pat gali padaryti realios žalos. Iš karto po pertraukos panagrinėsime keletą pavyzdžių.

[skelbimas viduryje]

Jennifer Strong : Dėl pandemijos išaugo skaitmeninių programų, kurios prižiūri mokyklinius egzaminus, naudojimas. Šie produktai naudoja elgesio stebėjimą ir atpažinimą, kad galėtų stebėti mokinius per nešiojamuosius kompiuterius ir ieškoti sukčiavimo požymių. „The New York Times“ kalbėjosi su koledžo jaunesne, kuri turi veido tikėjimo negalią, ir neseniai baigusią afro-lotynų teisę, kuri keturias valandas stengėsi, kad programinė įranga užregistruotų jos veidą. Šios problemos taip pat iškilo pokalbių programinėje įrangoje, kuri naudoja panašų veido ir elgesio stebėjimą, kad padėtų nuspręsti, ar esate vertas būti įdarbintas.

Meredith Whittaker : Idėja, kad žmonių galimybes gauti darbą ir galimybes formuoja tai, ką galima laikyti stereotipais ir prielaidomis apie tai, kaip jie atrodo, kaip elgiasi, ar jie kalba taip, kad atitiktų tam tikrą ar kitą sėkmės modelį, yra neįtikėtina. nerimą keliantis.

Jennifer Strong : Meredith Whittaker yra Niujorko AI dabar instituto įkūrėja.

Meredith Whittaker : Ir mes tiriame dirbtinio intelekto socialines pasekmes.

Jennifer Strong : Ji sako, kad tai ne tik emocijų žymėjimas, bet ir tų emocijų vertės aiškinimas ir sprendimų automatizavimas naudojant šią informaciją.

Meredith Whittaker : Kalbama apie įmonių galią ir būdą, kuriuo šios įmonės kuria technologijas, kurios beveik visada slepia fantastiškus teiginius, paslėptus po komercinės paslapties šydu. Jie neaudituoti. Jie nenagrinėti. Matome technologiją, kuri teigia galinti aptikti žmonių vidinį charakterį, jų kompetenciją, jausmus, yra naudojama siekiant informuoti priimant sprendimus klasėje, ką samdyti ir ką paaukštinti. Matome, kad tai taikoma baudžiamojo teisingumo sistemoje – vietose, kurios iš tikrųjų formuoja žmonių gyvenimus ir galimybes. Ir atsižvelgiant į tai, kad nėra mokslinio sutarimo dėl tokio pobūdžio teiginių automatizavimo veiksmingumo, manėme, kad laikas raginti uždrausti naudoti šias technologijas šiose srityse.

Jennifer Strong : Ir ji sako, kad bene didžiausią nerimą kelia tai, kaip dažnai šios technologijos naudojamos žmonėms, kuriems jos taikomos, neturint jokio supratimo ar pagalbos.

Meredith Whittaker : Labai sunku žinoti, ar aš, jei nesu įdarbintas darbui ir buvau apklaustas HireVu, ar dėl to, kad programinė įranga yra šališka, ar vis tiek nebūčiau gavęs darbo. Tiesa? Pavyzdžiui, iš vieno pavyzdžio sunku padaryti išvadą. Ir duomenys, kurie leistų mums aptikti diskriminacijos, žalos, klaidos modelį arba ką jūs turite, nėra vieši. Žmonės, kurie turi prieigą prie tų duomenų, yra „HireVu“ ir bet kuri įmonė, kuri išduoda „HireVu“ licenciją naudoti juos pokalbiams, tiesa? Ir nė viena iš tų įmonių nėra iš tikrųjų suinteresuota leisti visuomenei ir įstatymų leidėjams bei advokatams šukuoti tuos duomenis.

Jennifer Strong : Taigi jos grupė ragina uždrausti emocijų AI jautriais naudojimo atvejais, įskaitant programas, kurios gali atrodyti ne tokios jautrios – kaip pyptelėjimas iš automobilio prietaisų skydelio, kai manoma, kad vairuotojas gali būti mieguistas.

Meredith Whittaker : Mes tarsi turime atsitraukti ir pažvelgti į galios dinamiką čia, tiesa? Galbūt automobilis, kuris šiek tiek mirksi, kai mano, kad esate mieguistas, atsižvelgiant į jūsų veido išvaizdą, gali būti ne toks žalingas. Bet ar ši informacija siunčiama jūsų draudimo bendrovei? Ar ši informacija naudojama nustatant draudimo įkainius arba sprendžiant jūsų kaltę, jei patektumėte į nelaimingą atsitikimą? Ar tai neleidžia „Lyft“ ar „Uber“ vairuotojams prisijungti prie savo programos? Kam šie duomenys naudojami?

Jennifer Strong : Tai, ką ji sako, gali skambėti pernelyg atsargiai, tačiau praėjusiais metais Niujorko vyriausioji finansų reguliavimo institucija nusprendė, kad gyvybės draudimo bendrovės gali nustatyti įmokas toje valstijoje, remdamosi informacija iš socialinės žiniasklaidos. Taigi, kaip sustabdyti, kad automobilių ar kitų duomenų duomenys būtų naudojami nustatant draudimo įkainius ateityje? Šiuo metu daugumoje vietų nieko.

Jennifer Strong : Apie šį epizodą pranešėme ir prodiusavome aš ir Karen Hao, Tate'as Ryanas-Mosley ir Emma Cillekens. Mums padėjo Benji Rosen. Mus redaguoja Michaelas Reilly ir Gideonas Lichfieldas. Ačiū, kad klausotės, aš esu Jennifer Strong.

paslėpti