AI bendruomenė turi prisiimti atsakomybę už savo technologijas ir veiksmus

Seleste Kidd Niall Carson / AP

Pirmadienį, atidarydama vieną didžiausių pasaulyje dirbtinio intelekto tyrinėtojų susirinkimų, Celeste Kidd kreipėsi į tūkstančius dalyvių patalpoje, kuri yra beveik dvigubai didesnė už futbolo aikštę. Ji netraukė kumščio.

Nėra tokio dalyko kaip neutrali platforma, - sakė įtakingas mokslininkas ir žymus #metoo veikėjas susirinkusiems NeurIPS konferencijoje Vankuveryje. Algoritmai, perkeliantys turinį internete, daro didelę įtaką tam, kuo tikime.

Kalifornijos universiteto Berklyje psichologijos profesorė Kidd savo srityje yra žinoma dėl to, kad labai prisideda prie mūsų supratimo apie proto teoriją – kaip mes įgyjame žinių ir kaip formuojame įsitikinimus. Prieš dvejus metus ji tapo žinoma ir plačiajam pasauliui, kai „Time“ ją pavadino Metų žmogus tarp kitų, kurie pasisakė prieš seksualinę prievartą ir priekabiavimą.

Scenoje Kidd pasidalijo penkiomis savo tyrimo pamokomis ir pademonstravo, kaip technologijų pramonės sprendimai gali paveikti žmones, kad jie išsiugdytų klaidingus įsitikinimus, pavyzdžiui, neigia klimato kaitą. Pasibaigus pokalbiui, ji taip pat pasidalijo savo patirtimi, susijusia su seksualiniu priekabiavimu, būdama magistrantė ir tiesiogiai kreipiamasi kai kuriuos nesusipratimus apie #metoo judėjimą ji girdėjo iš vyrų.

Ji sakė konferencijos lankytojams, kurių šiemet maždaug 80 % yra vyrai, dabar gali atrodyti baisus metas būti technologijų srityje. Yra jausmas, kad karjera gali būti sugriauta dėl nepatogių perdavimų ar nesusipratimų.

Šiandien noriu pasakyti visiems kambaryje esantiems vyrams, kad jūs buvote suklaidinti, sakė ji.

Jos kalba sulaukė gausių ovacijų – tai reta akimirka konferencijos istorijoje.

Kiddo pastabos buvo pateiktos tuo metu, kai dirbtinio intelekto bendruomenė ir plačiau technologijų pramonė buvo priversta atsižvelgti į netyčinę savo technologijų žalą. Vien per praėjusius metus daugybė garsių atvejų atskleidė, kaip gilios klastotės gali išnaudoti moteris, kaip algoritmai gali priimti diskriminacinius sprendimus sveikatos priežiūros ir kredito skolinimo srityse ir kaip dirbtinio intelekto modelių kūrimas gali būti nepaprastai brangus aplinkai. Tuo pačiu metu bendruomenę sukrėtė keli seksualinės prievartos ir priekabiavimo skandalai , įskaitant kai kuriuos incidentus adresu ankstesniais pačios konferencijos metais . Ji taip pat toliau kenčia nuo pasibaisėtinos įvairovės.

Tačiau Kiddo kalba pabrėžė svarbų pokytį, kuris pradėjo įvykti – tą, kuris tą naktį buvo jaučiamas kambaryje. Po jos pokalbio dešimtys žmonių stojo į eilę prie mikrofonų, išsibarsčiusių po kambarį, kad padėkotų jai už tai, kad kalbėjo apie šias problemas. Po seanso aplink ją susirinko dar dešimtys žmonių – kai kurie tiesiog padėkojo jai paspausti ranką. Dalyviams, kurie kasmetinį susirinkimą prisimena net prieš dvejus metus, atsiranda naujas atvirumas pripažinti šiuos iššūkius ir naujas dėmesys siekti geresnių rezultatų.

Kitą dieną po jos pokalbio susėdome su Kidd ir pakalbėjome daugiau apie dvi jos perduotas žinutes, jų ryšį ir jos viltis ateičiai.

Šis interviu buvo suredaguotas ir sutrumpintas siekiant aiškumo.

Savo pokalbio tiriamojoje dalyje baigėte savo pranešimu: nėra tokio dalyko kaip neutrali platforma. Kaip iš savo tyrimo priėjote prie šios išvados?

Tai, ką supratau tik per pastaruosius kelerius metus – dėl bendravimo su dviem magistrantūros studentais – iš tikrųjų nėra skirtumo tarp žinių ir įsitikinimų. Iš esmės tai yra tas pats dalykas.

Dabar mes stengiamės suprasti, kaip ši dinamika, kurią stebėjome atliekant laboratorinius eksperimentus, apima realų pasaulį. Kai kas nors eina į internetą nežinodamas, kuo turėtų tikėti, kuo jie linkę pasitraukti iš šių neutralių paieškų? Ar galime panaudoti tokias pačias idėjas, kad paaiškintume, kodėl žmonės mano, kad žemė plokščia ir kodėl tie klaidingi supratimai neištaisomi? Tai nėra ta sritis, kuriai nemačiau daug dėmesio, bet manau, kad tai labai svarbi.

Kodėl jums buvo svarbu pasidalinti savo žinia šioje konferencijoje?

Tiek daug to, kuo dabar tikime, gaunama iš internetinių šaltinių. Ypač vaikai – jie formuoja žinių blokus, kurie vėliau suformuos tai, kuo jie tiki, ką jiems įdomu sužinoti pasroviui. Mažiems vaikams taip pat yra pagrindo tikėtis, kad jie sunaudoja daugiau automatinio paleidimo ir siūlomo turinio nei suaugusieji. Taigi iš pradžių jiems kyla didesnė rizika, kad juos paveiks turinį stumiantis algoritmas, nes tai yra vienintelis jų pasirinkimas.

Mano kalba buvo skirta kaip žinia žmonėms, dirbantiems su sistemomis, kad jie būtų dėmesingi apie tai, kaip tie galutiniai sprendimai įtakoja atskiro asmens įsitikinimus, bet ir visą visuomenę. Nemanau, kad technologijos yra pakankamai jautrios tam, kaip užkulisiuose priimami sprendimai, kaip perkelti turinį, paveikia žmonių gyvenimus.

Kai kyla klausimų apie tai, kaip siūlomas turinys, kyla dažnas kovos šauksmas – teiginys, kad platformos yra neutralios. Ir aš manau, kad tai nesąžininga. Jūsų priimti sprendimai tiesiogiai daro įtaką tuo, kuo žmonės tiki, ir žmonės tai žino. Taigi apsimesti, kad to nėra, yra nesąžininga.

Kai keičiame žmonių elgesį, tai, ką darome, keičia jų įsitikinimus. Ir tie pokyčiai turi realių, konkrečių pasekmių. Kai tėvai ieško informacijos apie tai, ar jie turėtų skiepyti savo vaiką, ar ne – jei jie eina prie nešiojamojo kompiuterio neapsisprendę ir nueina apsisprendę, labai svarbu, koks turinys buvo siūlomas, kokios nuomonės buvo atstovaujamos.

Nemanau, kad būtų protinga sakyti, kad nesate atsakingi už tai, ką mama daro su savo vaiku – nesvarbu, ar ji nusprendžia jį skiepyti, ar ne –, nes į tai neatsižvelgėte kurdami sistemą. Manau, kad jūs privalote apsvarstyti, kokias pasekmes gali turėti galutiniai sprendimai.

Privačiame klausimų ir atsakymų pokalbyje minėjote, kad niekada viešame forume nepristatėte nei savo tyrimų, nei seksualinio priekabiavimo patirties. Kodėl dažniausiai tuos du išskiriate ir kodėl nusprendėte juos sujungti?

Pradėsiu nuo antrojo – šiuo atveju padariau išimtį iš taisyklės, nes maniau, kad labai svarbu, kad ši bendruomenė išgirstų šią žinią. Kompiuterių mokslas yra sritis, kurioje moterims ilgą laiką buvo labai sunku įsitraukti ir įsilaužti. Anksti yra didelis susidomėjimas, o vėliau atsiranda nesandarus vamzdis. Ir aš žinau, kad vienas iš dalykų, dėl kurių šioje srityje moteriai būti gerai, yra mentorystės galimybių sumažėjimas.

Žinau, kad labai dažnai kompiuterių mokslo vyrai, turintys gerų ketinimų, nerimauja, kad neįžeistų moterų. Tai reiškia, kad moterys praranda mokymosi galimybes, o vyrai taip pat praranda idėjas ir naujoves, kurias atsineštų moterys. Empiriniai tyrimai rodo, kad įvairovė lemia didesnį inovacijų lygį. Ir galimybė vienu metu pasikalbėti su didele šių vyrų dalimi viename kambaryje – man atrodė, kad tai svarbu, ir turėjau tai padaryti.

Priežastis, kodėl aš dažniausiai jų nemaišau: aš nepasirinkau, kas man nutiko mano pirmaisiais metais Ročesteryje. Aš nepasirinkau, koks bus universiteto atsakymas. Norėjau karjeros mokslo srityje ir noriu tai apsaugoti, todėl nenoriu mažiau kalbėti apie mokslą, nes kalbėjau šiuo klausimu. Tačiau aš taip pat žinau, kad dauguma žmonių negauna galimybės, jie neturi platformos pasisakyti. Paprastai tai, kas nutinka žmonėms, kurie karjeros pradžioje buvo seksualiai priekabiaujami ir kurių institucija jiems keršijo, yra tai, kad jie dingsta. Nieko neveikdama nesijausčiau gerai. Žmonės, turintys privilegijų, turi ja naudotis ten, kur gali. Ir tai buvo galimybė pasinaudoti privilegija skaityti pranešimą NeurIPS, kad padėtų jaunesnėms moterims, kurios nusipelno vienodo požiūrio.

Ar nerimavote, kaip šie komentarai pasireikš?

Žinoma. Tačiau bijoti atsakymo nėra priežastis nekalbėti. Šiek tiek kalbėjau apie privilegijas. Taip pat šioje konferencijoje esu palyginti privilegijuotoje padėtyje, nes pramonėje yra tiek daug žmonių, ir manau, kad įmonėse spaudimas tylėti yra didesnis nei akademinėje bendruomenėje, bent jau dabar technologijų srityje. Taigi, jei nerimauju, kad būsiu atleistas, tai būtų papildomas dalykas, neleidžiantis tylėti. UC Berkeley žinojo, kad kalbu šiais klausimais prieš mane įdarbindama, ir jie man parodė tik paramą ir padrąsinimą kovojant už teisingumą. Būdama tokioje vietoje, kuri mane taip palaiko, galiu pasakyti dalykus, nebijant prarasti darbą ir nesumokėti už vaiko maistą. Ir tai yra kita priežastis, kodėl jaučiau, kad turėčiau kalbėti.

Visiškai tikėjausi, kad kai kurie žmonės supyks. Tai 13 000 žmonių. Žinoma, kai kurie žmonės gali mane suprasti neteisingai. Aš tiesiogine prasme kalbėjau apie tai, kad kai vartojame žodžius, jie yra dviprasmiški ir žmonės suaktyvina skirtingas sąvokas. Neįmanoma įtikinti visų žmonių tiksliai tuo, ką turite omenyje.

Nors jūs paprastai atskiriate kalbas apie savo tyrimus ir aktyvumą, o „NeurIPS“ suskirstėte jas į dvi dalis, man jie iš tikrųjų kalba apie tą patį: kaip sukurti atsakingas technologijas prisiimant daugiau atsakomybės už savo sprendimus ir veiksmus.

Teisingai. Jūs man minėjote, kad dirbtinio intelekto bendruomenėje daugiau kalbama apie etines pasekmes, kad labiau vertinamas technologijos ir visuomenės ryšys. Ir manau, kad dalis to atsiranda dėl to, kad bendruomenė tampa vis įvairesnė ir įtraukiama daugiau žmonių. Jie kilę iš mažiau privilegijuotos vietos ir geriau suvokia tokius dalykus kaip šališkumas ir neteisybė ir kaip technologijos, sukurtos tam tikrai demografinei situacijai, iš tikrųjų gali pakenkti nepalankioje padėtyje esančioms gyventojų grupėms.

Tikiuosi, kad tai tęsis. Turime kalbėtis vieni su kitais, kad padarytume pažangą. Ir mes visi nusipelnėme jaustis saugūs bendraudami vieni su kitais.

Jei norite, kad daugiau tokių istorijų būtų pristatyta tiesiai į jūsų pašto dėžutę, užsiprenumeruokite Webby nominuotą AI informacinį biuletenį The Algorithm. Tai nemokama.

paslėpti