Nustokite kalbėti apie AI etiką. Atėjo laikas kalbėti apie galią.

Vladanas Joleris

XX amžiaus sandūroje vokiškas arklys užvaldė Europą. Sumanusis Hansas, kaip jis buvo žinomas, galėjo atlikti įvairius triukus, kurie anksčiau buvo taikomi tik žmonėms. Jis galėjo sudėti ir atimti skaičius, nustatyti laiką ir skaityti kalendorių, net išrašyti žodžius ir sakinius – visa tai išspaudęs kanopa. A buvo vienas bakstelėjimas; B buvo du; 2+3 buvo penki. Jis buvo tarptautinis sensacija ir, daugelis manė, įrodymas, kad gyvūnus galima išmokyti protauti taip pat, kaip žmones.

Problema ta, kad Sumanusis Hansas iš tikrųjų nedarė nė vieno iš šių dalykų. Kaip vėliau išsiaiškino tyrėjai, arklys išmoko pateikti teisingą atsakymą stebėdamas klausiančiojo laikysenos, kvėpavimo ir veido išraiškų pokyčius. Jei klausėjas stovėtų per toli, Hansas prarastų savo sugebėjimus. Jo intelektas buvo tik iliuzija.

Ši istorija naudojama kaip įspėjamasis pasakojimas AI tyrėjams, kai jie vertina savo algoritmų galimybes. Sistema ne visada tokia protinga, kaip atrodo. Pasirūpinkite tinkamai jį išmatuoti.

KATE CRAWFORD ATLAIDAVIMAS

Tačiau naujoje jos knygoje AI atlasas , pirmaujanti AI mokslininkė Kate Crawford apverčia šį moralą ant galvos. Ji rašo, kad problema buvo susijusi su tuo, kaip žmonės apibrėžė Hanso pasiekimus: Hansas jau atliko nuostabius tarprūšinės komunikacijos, viešo pasirodymo ir nemažos kantrybės žygdarbius, tačiau tai nebuvo pripažinta intelektu.

Taip prasideda Crawfordo tyrinėjimas dirbtinio intelekto istorijoje ir jo įtakoje mūsų fiziniam pasauliui. Kiekvienas skyrius siekia išplėsti mūsų supratimą apie technologiją, atskleidžiant, kaip siaurai mes ją vertinome ir apibrėžėme.

Crawfordas tai daro sukeldamas mus į pasaulinę kelionę – nuo ​​kasyklų, kuriose išgaunami kompiuterių gamyboje naudojami retųjų žemių elementai, iki „Amazon“ vykdymo centrų, kur žmonių kūnai buvo mechanizuoti nenumaldomai įmonės augimo ir pelno siekimui. Pirmame skyriuje ji pasakoja, kaip vairavo furgoną iš Silicio slėnio širdies į mažytę kalnakasių bendruomenę Nevados Kleitono slėnyje. Ten ji tiria žalingą aplinkosaugos praktiką, reikalingą norint gauti ličio, kuris maitina pasaulio kompiuterius. Tai stipri iliustracija, kaip arti šios dvi vietos yra fizinėje erdvėje, tačiau kaip toli viena nuo kitos jos yra turtingos.

Remdamasi savo analize tokiais fiziniais tyrimais, Crawford atsisako eufemistinio teiginio, kad dirbtinis intelektas yra tiesiog efektyvi programinė įranga, veikianti debesyje. Jos artimi, ryškūs žemės ir darbo AI aprašymai yra paremti, o už jo slypinčios gilios probleminės istorijos neleidžia toliau kalbėti apie technologiją vien abstrakčiai.

Pavyzdžiui, ketvirtame skyriuje Crawfordas nukelia mus į kitą kelionę – šią kelionę, o ne erdvę. Siekdama paaiškinti šios srities manija dėl klasifikavimo istoriją, ji apsilanko Penn muziejuje Filadelfijoje, kur žiūri į eiles ir eiles žmonių kaukolių.

Kaukoles surinko XIX amžiaus amerikiečių kraniologas Samuelis Mortonas, kuris manė, kad pagal fizinius išmatavimus jas galima objektyviai suskirstyti į penkias pasaulio rases: Afrikos, Amerikos indėnų, Kaukazo, Malajiečių ir Mongolų. Crawfordas brėžia paraleles tarp Mortono darbų ir šiuolaikinių AI sistemų, kurios ir toliau skirsto pasaulį į fiksuotas kategorijas.

Ji tvirtina, kad šios klasifikacijos toli gražu nėra objektyvios. Jie įveda socialinę tvarką, natūralizuoja hierarchijas ir didina nelygybę. Žiūrint pro šį objektyvą, dirbtinis intelektas nebegali būti laikomas objektyvia ar neutralia technologija.

Per savo 20 metų karjerą Crawford kovojo su realiomis didelio masto duomenų sistemų, mašininio mokymosi ir dirbtinio intelekto pasekmėmis. 2017 m. kartu su Meredith Whittaker ji įkūrė tyrimų institutą „AI Now“ kaip vieną pirmųjų organizacijų, skirtų šių technologijų socialinių pasekmių studijoms. Ji taip pat dabar yra profesorė USC Annenberg Los Andžele ir inauguracinė vizituojanti dirbtinio intelekto ir teisingumo katedra École Normale Supérieure Paryžiuje, taip pat vyresnioji vyriausioji „Microsoft Research“ tyrėja.

Prieš penkerius metus Crawford sako, kad ji vis dar stengėsi pristatyti vien idėją, kad duomenys ir AI nėra neutralūs. Dabar pokalbis pasikeitė, o AI etika išaugo į savo sritį. Ji tikisi, kad jos knyga padės jai dar labiau subręsti.

Susėdau su Crawford pasikalbėti apie jos knygą.

Toliau pateikta informacija buvo redaguota siekiant apimties ir aiškumo.

Kodėl pasirinkote šį knygos projektą ir ką jis jums reiškia?

Crawford: Tiek daug knygų, kurios buvo parašytos apie dirbtinį intelektą, iš tikrųjų kalba tik apie labai siaurus techninius pasiekimus. Ir kartais jie rašo apie didžiuosius dirbtinio intelekto vyrus, bet tai iš tikrųjų viskas, ką turėjome kovojant su tuo, kas yra dirbtinis intelektas.

Manau, kad tai sukūrė labai iškreiptą dirbtinio intelekto supratimą kaip grynai technines sistemas, kurios yra kažkaip objektyvios ir neutralios, ir, kaip sako Stuartas Russellas ir Peteris Norvigas. jų vadovėlis – kaip protingi agentai, priimantys geriausią sprendimą dėl bet kokių galimų veiksmų.

Norėjau padaryti kažką visiškai kitokio: iš tikrųjų suprasti, kaip gaminamas dirbtinis intelektas plačiąja prasme. Tai reiškia, kad reikia žiūrėti į jį skatinančius gamtos išteklius, sunaudojamą energiją, paslėptą darbą visoje tiekimo grandinėje ir didžiulius duomenų kiekius, gaunamus iš kiekvienos platformos ir įrenginio, kurį naudojame kiekvieną dieną.

Susijusi istorija

„Deepfake Amazon“ darbuotojai sėja sumaištį „Twitter“. Tai ne problema.

Sąskaitos greičiausiai yra tik parodijos, o ne grėsmingos įmonės strategijos dalis, tačiau jos iliustruoja tai, kas kada nors gali nutikti.

Tai darydamas, norėjau iš tikrųjų atskleisti AI supratimą kaip ne dirbtinį ar protingą. Tai priešingas dirbtinių. Jis gaunamas iš pačių materialiausių Žemės plutos dalių ir iš dirbančių žmonių kūnų bei iš visų artefaktų, kuriuos gaminame, sakome ir fotografuojame kiekvieną dieną. Tai taip pat nėra protinga. Manau, kad šioje srityje yra didžiulė gimtoji nuodėmė, kai žmonės manė, kad kompiuteriai kažkaip yra kaip žmogaus smegenys, ir jei mes juos treniruosime kaip vaikus, jie pamažu išaugs į šias antgamtines būtybes.

Tai yra kažkas, kas, mano nuomone, yra tikrai problematiška – kad mes nusipirkome šią žvalgybos idėją, nors iš tikrųjų mes tik žiūrime į statistinės analizės formas, kurios turi tiek pat problemų, kiek ir pateikiami duomenys.

Ar jums iškart buvo aišku, kad taip žmonės turėtų galvoti apie AI? O gal tai buvo kelionė?

Tai tikrai buvo kelionė. Sakyčiau, vienas iš lūžių man buvo 2016 m., kai pradėjau projektą, pavadintą AI sistemos anatomija su Vladanu Joleriu. Susitikome konferencijoje, skirtoje konkrečiai apie AI įgalintą balsu, ir bandėme efektyviai nubrėžti, ko reikia, kad „Amazon Echo“ veiktų. Kokie yra komponentai? Kaip ištraukia duomenis? Kokie yra duomenų srauto sluoksniai?

Mes supratome, gerai, iš tikrųjų, norėdami tai suprasti, turite suprasti, iš kur atsiranda komponentai. Kur buvo gaminami traškučiai? Kur kasyklos? Kur jis lydomas? Kur yra logistikos ir tiekimo grandinės keliai?

Galiausiai, kaip atsekti šių prietaisų gyvavimo pabaigą? Kaip žiūrime į tai, kur yra elektroninių atliekų antgalių tokiose vietose kaip Malaizija, Gana ir Pakistanas? Tai, ką mes baigėme, buvo šis labai daug laiko reikalaujantis dvejų metų tyrimo projektas, skirtas iš tikrųjų atsekti tas medžiagų tiekimo grandines nuo lopšio iki kapo.

Kai pradedi žiūrėti į AI sistemas tokiu didesniu mastu ir tuo ilgesniu laiko horizontu, nuo šių labai siaurų AI sąžiningumo ir etikos teiginių nukrypstama ir sakoma: tai sistemos, sukeliančios gilius ir ilgalaikius geomorfinius mūsų planetos pokyčius. taip pat padidinti darbo nelygybės formas, kurias jau turime pasaulyje.

Tai privertė mane suprasti, kad turėjau pereiti nuo vieno įrenginio, „Amazon Echo“ analizės, prie tokios analizės taikymo visai pramonei. Man tai buvo didelė užduotis, ir štai kodėl AI atlasas parašyti prireikė penkerių metų. Reikia iš tikrųjų pamatyti, kiek šios sistemos mums iš tikrųjų kainuoja, nes mes taip retai stengiamės suprasti tikrąsias jų planetines pasekmes.

Kitas dalykas, kuris, sakyčiau, buvo tikras įkvėpimas, yra augantis mokslininkų laukas, užduodantis šiuos didesnius klausimus apie darbą, duomenis ir nelygybę. Čia aš galvoju apie Ruha Benjamin, Safiya Noble, Mar Hicks, Julie Cohen, Meredith Broussard, Simone Brown – sąrašas tęsiasi. Manau, kad tai yra indėlis į tą žinių bagažą, įtraukiant perspektyvas, jungiančias aplinką, darbo teises ir duomenų apsaugą.

Per visą knygą daug keliaujate. Beveik kiekvienas skyrius prasideda tuo, kad jūs iš tikrųjų apsižvalgote aplinkui. Kodėl jums tai buvo svarbu?

Tai buvo labai sąmoningas pasirinkimas pagrįsti AI analizę konkrečiose vietose, atsitraukti nuo šių abstrakčių algoritminės erdvės vietų, kur vyksta tiek daug diskusijų apie mašininį mokymąsi. Ir tikiuosi, kad tai pabrėžia faktą, kad kai mes to nedarome, kai kalbame tik apie šias niekur nieko nelaukiančias algoritminio objektyvumo erdves, tai taip pat yra politinis pasirinkimas ir turi pasekmių.

Kalbant apie vietovių sujungimą, tikrai todėl pradėjau galvoti apie šią atlaso metaforą, nes atlasai yra neįprastos knygos. Tai knygos, kurias galite atversti ir pažvelgti į viso žemyno mastelį arba galite priartinti ir pažvelgti į kalnų masyvą ar miestą. Jie suteikia jums šiuos perspektyvos ir masto pokyčius.

Yra ši nuostabi eilutė, kurią naudoju fizikės Ursulos Franklin knygoje. Ji rašo apie tai, kaip šiais kolektyvinės įžvalgos metodais žemėlapiai sujungia žinomą ir nežinomą. Taigi man tai tikrai buvo ne tik turėtas žinias, bet ir mąstymas apie tikrąsias vietas, kuriose dirbtinis intelektas yra kuriamas tiesiogine prasme iš uolų, smėlio ir naftos.

Kokių atsiliepimų sulaukė knyga?

Vienas iš dalykų, dėl kurių buvau nustebintas pirmaisiais atsakymais, yra tai, kad žmonės tikrai jaučia, kad tokia perspektyva buvo pavėluota. Akimirka pripažįstama, kad turime užmegzti kitokį pokalbį nei tie, kuriuos vedėme pastaruosius kelerius metus.

Per daug laiko praleidome susitelkdami į siaurus AI sistemų techninius pataisymus ir visada sutelkdami dėmesį į techninius atsakymus ir techninius atsakymus. Dabar turime kovoti su sistemų ekologiniu pėdsaku. Turime kovoti su labai realiomis darbo jėgos išnaudojimo formomis, kurios vyksta kuriant šias sistemas.

Be to, dabar pradedame matyti nuodingą palikimą to, kas atsitinka, kai iš interneto tiesiog išplėšiate tiek duomenų, kiek galite, ir vadinate tai tiesiog pagrindine tiesa. Toks problemiškas pasaulio įrėminimas padarė tiek daug žalos, ir, kaip visada, tą žalą labiausiai pajuto bendruomenės, kurios jau buvo marginalizuotos ir nepatyrė tų sistemų naudos.

Ką, jūsų manymu, žmonės pradės daryti kitaip?

Tikiuosi, bus daug sunkiau vesti šiuos akligatvius pokalbius, kuriuose buvo vartojami tokie terminai kaip etika ir AI visam laikui. taip visiškai denatūruotas bet kokios tikrosios prasmės . Tikiuosi, kad jis atitrauks uždangą ir pasakys: iš tikrųjų pažiūrėkime, kas valdo šių sistemų svirtis. Tai reiškia, kad nebesikreipiame dėmesio į tokius dalykus kaip etiniai principai, o ne kalbame apie valdžią.

Kaip atsiriboti nuo šių etikos rėmų?

Susijusi istorija

Nerimaujate dėl savo įmonės AI etikos? Šie startuoliai yra čia, kad padėtų. Auganti atsakingų dirbtinio intelekto įmonių ekosistema žada padėti organizacijoms stebėti ir taisyti savo AI modelius.

Jei pastarąjį dešimtmetį technologijų sektoriuje buvo tikri spąstai, tai pokyčių teorija visada buvo sutelkta į inžineriją. Taip buvo visada. Jei kyla problemų, yra techninis jos sprendimas. Ir tik neseniai pradėjome pastebėti, kad tai išplečiama iki O, gerai, jei yra problema, tada reglamentas gali pataisyti. Politikos formuotojai turi savo vaidmenį.

Tačiau manau, kad turime tai dar labiau išplėsti. Taip pat turime pasakyti: kur yra pilietinės visuomenės grupės, kur yra aktyvistai, kur yra advokatai, sprendžiantys klimato teisingumo, darbo teisių, duomenų apsaugos klausimus? Kaip įtraukti juos į šias diskusijas? Kaip įtraukti paveiktas bendruomenes?

Kitaip tariant, kaip tai padaryti kur kas gilesniu demokratiniu pokalbiu apie tai, kaip šios sistemos jau dabar daro įtaką milijardų žmonių gyvenimui pirmiausia neatsakingais būdais, kurie gyvena už reguliavimo ir demokratinės priežiūros ribų?

Šia prasme ši knyga bando decentralizuoti technologijas ir kelti didesnius klausimus apie tai: kokiame pasaulyje mes norime gyventi?

Koks pasaulis daro tu nori gyventi? Apie kokią ateitį svajojate?

Noriu pamatyti, kad grupės, kurios atliko tikrai sunkų darbą spręsdamos tokius klausimus kaip klimato teisingumas ir darbo teisės, susiburtų ir suprastų, kad šie anksčiau gana skirtingi socialinių pokyčių ir rasinio teisingumo frontai iš tikrųjų turėjo bendrų rūpesčių ir bendro pagrindo derinti ir organizuoti.

Nes mes čia žiūrime į tikrai trumpą laiko horizontą. Turime reikalų su planeta, kuri ir taip patiria didelę įtampą. Mes žiūrime į gilų galios sutelkimą į nepaprastai keletą rankų. Jums tikrai tektų grįžti į ankstyvąsias geležinkelių dienas, kad pamatytumėte kitą tokią koncentruotą pramonės šaką, o dabar netgi galima sakyti, kad technologijos ją aplenkė.

Taigi turime kovoti su būdais, kuriais galėtume pliuralizuoti savo visuomenes ir įgyti didesnes demokratinės atskaitomybės formas. Ir tai yra kolektyvinio veiksmo problema. Tai nėra individualaus pasirinkimo problema. Nėra taip, kad iš lentynos pasirenkame etiškesnį technologijų prekės ženklą. Turime rasti būdų, kaip kartu spręsti šiuos planetos masto iššūkius.

Atnaujinti : AI Now instituto aprašymas patikslintas.

paslėpti