211service.com
Tikrieji dirbtinio intelekto pavojai yra arčiau nei manome
Pamirškite superinteligentišką AI: algoritmai jau daro tikrą žalą. Geros naujienos: kova prasidėjo.
2020 m. spalio 21 d
Williamas Isaacas pradėjo tyrinėti nuspėjamųjų policijos algoritmų šališkumą 2016 m. Davidas Vintineris
Kol žmonės kūrė mašinas, bijojome tos dienos, kai jos gali mus sunaikinti. Stephenas Hawkingas garsiai perspėjo, kad AI gali reikšti civilizacijos galą. Tačiau daugeliui dirbtinio intelekto tyrinėtojų šie pokalbiai atrodo nepriekaištingi. Tai nereiškia, kad jie nebijo dirbtinio intelekto siautėjimo – jie mato, kad tai jau vyksta, tik ne taip, kaip dauguma žmonių tikėtųsi.
AI dabar tikrina kandidatus į darbą, diagnozuoja ligas ir nustato įtariamuosius nusikaltimais. Tačiau užuot padarius šiuos sprendimus veiksmingesnius ar teisingesnius, tai dažnai įamžina žmonių, kurių sprendimai buvo apmokyti, šališkumą.
Ši istorija buvo mūsų 2020 m. lapkričio mėn. numerio dalis
- Žr. likusią numerio dalį
- Prenumeruoti
Williamas Isaacas yra vyresnysis etikos ir visuomenės komandos mokslininkas DeepMind, AI startuolis, kurį Google įsigijo 2014 m. Jis taip pat pirmininkauja konferencijai Fairness, Accountability ir Transparency – svarbiausiam kasmetiniam AI ekspertų, socialinių mokslų, ir šioje srityje dirbantys teisininkai. Paklausiau jo apie dabartinius ir galimus iššūkius, su kuriais susiduria AI plėtra, taip pat sprendimus.
Kl .: Ar turėtume nerimauti dėl superinteligentiško AI?
A: Noriu pakeisti klausimą. Grėsmės sutampa, nesvarbu, ar tai būtų nuspėjamoji policija ir rizikos vertinimas artimiausiu metu, ar labiau išplėstos ir pažangesnės sistemos ilgesniu laikotarpiu. Daugelis šių klausimų taip pat turi istorijos pagrindą. Taigi galimos rizikos ir būdai, kaip jas spręsti, nėra tokie abstraktūs, kaip manome.
Yra trys sritys, kurias noriu pažymėti. Tikriausiai aktualiausias yra šis klausimas apie vertybių derinimą: kaip iš tikrųjų sukurti sistemą, kuri galėtų suprasti ir įgyvendinti įvairias gyventojų pageidavimų ir vertybių formas? Per pastaruosius kelerius metus mes matėme politikos formuotojų, pramonės ir kitų asmenų bandymus plačiu mastu įterpti vertybes į technines sistemas – tokiose srityse kaip nuspėjamoji policija, rizikos vertinimai, samdymas ir kt. Akivaizdu, kad jie yra tam tikros formos šališkumo. kuri atspindi visuomenę. Ideali sistema subalansuotų visus daugelio suinteresuotųjų šalių ir daugelio gyventojų poreikius. Tačiau kaip visuomenė suderina savo istoriją su siekiais? Mes vis dar kovojame su atsakymais, o šis klausimas taps eksponentiškai sudėtingesnis. Išspręsti šią problemą reikia ne tik ateities, bet ir čia ir dabar.
Antrasis būtų akivaizdžios socialinės naudos pasiekimas. Iki šiol vis dar yra nedaug empirinių įrodymų, patvirtinančių, kad dirbtinio intelekto technologijos suteiks plataus masto socialinę naudą, kurios mes siekiame.
Galiausiai, manau, kad didžiausias susirūpinimas visiems, kurie dirba šioje erdvėje, yra: kokie yra tvirti priežiūros ir atskaitomybės mechanizmai.
Kl .: Kaip įveikiame šias rizikas ir iššūkius?
A: Trys sritys būtų labai svarbios. Pirmasis – sukurti kolektyvinį atsakingų inovacijų ir priežiūros raumenį. Įsitikinkite, kad galvojate apie tai, kur egzistuoja nesutapimo, šališkumo ar žalos formos. Įsitikinkite, kad sukūrėte gerus procesus, kaip užtikrinti, kad visos grupės dalyvautų technologinio projektavimo procese. Grupės, kurios istoriškai buvo marginalizuotos, dažnai nėra tos, kurios patenkina savo poreikius. Taigi svarbu, kaip mes kuriame procesus, kad tai iš tikrųjų padarytume.
Antrasis – paspartinti sociotechninių priemonių, skirtų šiam darbui iš tikrųjų atlikti, kūrimą. Neturime daug įrankių.
Pastaroji suteikia daugiau finansavimo ir mokymų tyrėjams ir praktikams, ypač tyrėjams ir praktikuojantiems spalvos, atlikti šį darbą. Ne tik mašininio mokymosi, bet ir STS [mokslo, technologijų ir visuomenės] bei socialinių mokslų srityse. Norime turėti ne tik kelis asmenis, bet ir tyrėjų bendruomenę, kad iš tikrųjų suprastų AI sistemų galimos žalos spektrą ir kaip sėkmingai ją sumažinti.
Kl.: Kiek pažengė dirbtinio intelekto tyrėjai, galvodami apie šiuos iššūkius, ir kiek jie dar turi nueiti?
A: 2016 m., pamenu, Baltieji rūmai ką tik paskelbė didelių duomenų ataskaitą ir buvo stiprus optimizmo jausmas, kad galėtume panaudoti duomenis ir mašininį mokymąsi, kad išspręstume kai kurias sudėtingas socialines problemas. Tuo pat metu akademinėje bendruomenėje buvo tyrėjų, kurie pažymėjo labai abstrakčia prasme: Ei, yra tam tikros galimos žalos, kurią šios sistemos gali padaryti. Tačiau jie iš esmės apskritai nebendravo. Jie egzistavo unikaliuose silosuose.
Nuo tada mes tiesiog atlikome daug daugiau tyrimų, skirtų šiai žinomų mašininio mokymosi sistemų trūkumų ir jų taikymo visuomenei sankirtai. Ir kai žmonės pradėjo matyti tą sąveiką, jie suprato: gerai, tai nėra tik hipotetinė rizika. Tai yra reali grėsmė. Taigi, jei žiūrite į lauką etapais, pirmasis etapas labai pabrėžė ir atskleidė, kad šie rūpesčiai yra tikri. Antrasis etapas dabar pradeda grumtis su platesniais sisteminiais klausimais.
K: Taigi ar esate optimistiškai nusiteikę pasiekti plataus masto naudingą AI?
A: Aš esu. Pastarieji keleri metai man suteikė daug vilčių. Pažiūrėkite į veido atpažinimą kaip pavyzdį. Joy'us Buolamwini, Timnit Gebru ir Deb Raji puikiai atliko veido atpažinimo sistemų tikslumo skirtumus (t. y. parodė, kad šios sistemos buvo daug mažiau tikslios juodų moterų veiduose nei baltųjų vyrų). Pilietinėje visuomenėje buvo propaguojama griežta žmogaus teisių apsauga nuo netinkamo veido atpažinimo taikymo. Taip pat didžiulis darbas, kurį atliko politikos formuotojai, reguliuotojai ir bendruomenės grupės nuo paprastų žmonių, kad tiksliai praneštų, kokios yra veido atpažinimo sistemos ir kokią galimą riziką jos kelia, ir reikalaudami aiškumo, kokia nauda visuomenei. Tai pavyzdys, kaip galėtume įsivaizduoti ryšį su kitais AI pažanga.
Tačiau veido atpažinimo iššūkis yra tas, kad viešai diegdami technologiją turėjome spręsti šiuos etikos ir vertybių klausimus. Ateityje tikiuosi, kad kai kurie iš šių pokalbių įvyks prieš atsirandant galimai žalai.
Kl.: Apie ką svajojate, kai svajojate apie AI ateitį?
A: Tai gali būti puikus lygintuvas. Pavyzdžiui, jei turėtumėte dirbtinio intelekto mokytojus ar dėstytojus, kurie galėtų būti prieinami studentams ir bendruomenėms, kuriose prieiga prie išsilavinimo ir išteklių yra labai ribota, tai būtų labai įgalinanti. Ir tai nėra trivialus dalykas, kurio reikia iš šios technologijos. Iš kur žinai, kad tai įgalina? Kaip žinoti, kad tai socialiai naudinga?
Aš baigiau mokyklą Mičigane per Flinto vandens krizę. Kai pasirodė pirmieji švino vamzdžių atvejai, jų turimi įrašai apie tai, kur buvo vamzdynų sistemos, buvo administracinio pastato apačioje esančiose rodyklėse. Dėl prieigos prie technologijų stokos jie atsidūrė nepalankioje padėtyje. Tai reiškia, kad žmonės, užaugę tose bendruomenėse, kurių daugiau nei 50 % yra afroamerikiečiai, užaugo aplinkoje, kurioje jie negauna pagrindinių paslaugų ir išteklių.
Taigi kyla klausimas: jei šios technologijos būtų tinkamai atliktos, ar šios technologijos pagerintų jų gyvenimo lygį? Mašininis mokymasis galėjo nustatyti ir numatyti, kur yra švino vamzdžiai, todėl sumažėjo faktinės miesto remonto išlaidos. Bet tai buvo didžiulis įsipareigojimas ir tai buvo retai. Ir, kaip žinome, Flintas vis dar nepašalino visų vamzdžių, todėl yra ir politinių bei socialinių iššūkių – mašininis mokymasis jų visų neišspręs. Tačiau tikimės, kad sukursime priemones, kurios įgalins šias bendruomenes ir suteiks reikšmingų pokyčių jų gyvenime. Apie tai aš galvoju, kai kalbame apie tai, ką kuriame. Štai ką aš noriu pamatyti.