Dalyvavimas-plovimas gali būti kita pavojinga mašininio mokymosi mada

Ponia Tech | Getty, Unsplash

Dirbtinio intelekto bendruomenė pagaliau suvokia, kad mašininis mokymasis gali padaryti neproporcingai didelę žalą ir taip prispaustoms ir nepalankioje padėtyje esančioms grupėms. Mes turime aktyvistai ir organizatoriai padėkoti už tai. Dabar mašininio mokymosi tyrėjai ir mokslininkai ieško būdų, kaip dirbtinį intelektą padaryti sąžiningesnį, atskaitingesnį ir skaidresnį, o pastaruoju metu taip pat labiau dalyvaujantį.

Vienas įdomiausių ir gausiausiai lankomų renginių Tarptautinė mašininio mokymosi konferencija liepos mėnesį buvo paskambinta Dalyvaujantis požiūris į mašininį mokymąsi . Šis seminaras prisidėjo prie bendruomenės siekio sukurti demokratiškesnes, bendradarbiaujančias ir teisingesnes algoritmines sistemas, įtraukiant į jų dizainą dalyvaujamuosius metodus. Tokie metodai pritraukia tuos, kurie sąveikauja su algoritmine sistema ir yra jos veikiami, į projektavimo procesą, pavyzdžiui, prašo slaugytojų ir gydytojų padėti sukurti sepsio nustatymo priemonė .

Tai labai reikalinga intervencija mašininio mokymosi srityje, kuri gali būti pernelyg hierarchiška ir vienalytė. Tačiau tai nėra sidabrinė kulka: iš tikrųjų dalyvavimas prausimasis gali tapti kita pavojinga šios srities mada. Štai ką aš, kartu su savo bendraautoriais Emanueliu Mosu, Olaitanu Awomolo ir Laura Forlano, ginčijamės naujausiame mūsų straipsnyje. Dalyvavimas nėra mašininio mokymosi dizaino pataisymas .

Sisteminės priespaudos ir privilegijų modelių nepaisymas veda prie neatsakingų mašininio mokymosi sistemų, kurios yra labai neskaidrios ir nesąžiningos. Šie modeliai skverbiasi į lauką pastaruosius 30 metų. Tuo tarpu pasaulis stebėjo, kaip eksponentiškai auga turtinės nelygybės ir iškastinio kuro sukeltos klimato kaitos. Šios problemos kyla iš pagrindinės kapitalizmo dinamikos: išgavimo. Dalyvavimas taip pat dažnai grindžiamas ta pačia išskirtine logika, ypač kai kalbama apie mašininį mokymąsi.

Dalyvavimas nėra nemokamas

Pradėkime nuo šio pastebėjimo: dalyvavimas jau yra didelė mašininio mokymosi dalis, tačiau problematiškais būdais. Vienas iš būdų yra dalyvavimas kaip darbas.

Nepriklausomai nuo to, ar jų darbas pripažįstamas, ar ne, daugelis dalyvių atlieka svarbų vaidmenį rengiant duomenis, naudojamus mokant ir vertinant mašininio mokymosi modelius. Nuotraukos, kurias kažkas padarė ir paskelbė, yra iškraunamos iš žiniatinklio, o žemą atlyginimą gaunantys darbuotojai tokiose platformose kaip „Amazon Mechanical Turk“ komentuoja šias nuotraukas, kad jas paverstų mokymo duomenimis. Paprasti svetainės vartotojai taip pat daro šią anotaciją, kai užpildo reCAPTCHA. Ir yra daug pavyzdžių, kas vadinama vaiduoklio darbas – antropologės Merės Grėjaus terminas, apibūdinantis visą užkulisinį darbą, kurio reikia, kad iš pažiūros automatizuotos sistemos veiktų. Didžioji dalis šio dalyvavimo nėra tinkamai kompensuojama ir daugeliu atvejų vargu ar net pripažįstama.

Tuo tarpu dalyvavimas kaip konsultacija yra tendencija, pastebima tokiose srityse kaip miesto dizainas ir vis dažniau mašininis mokymasis. Tačiau šio metodo veiksmingumas yra ribotas. Paprastai tai trumpalaikė, neplanuojant užmegzti prasmingų ilgalaikių partnerysčių. Dėl intelektinės nuosavybės problemų sunku iš tikrųjų ištirti šias priemones. Dėl to ši dalyvavimo forma pernelyg dažnai būna tik performatyvi.

Susijusi istorija

AI problemos, su kuriomis šiandien susiduria, siekia šimtmečius Algoritminė diskriminacija ir vaiduoklis atsirado neatsitiktinai. Jų ilgos, nerimą keliančios istorijos supratimas yra pirmas žingsnis siekiant juos išspręsti.

Daug žadanti yra dalyvavimo idėja kaip teisingumas . Čia visi projektavimo proceso nariai dirba kartu glaudžiai susietais santykiais ir dažnai bendrauja. Dalyvavimas kaip teisingumas yra ilgalaikis įsipareigojimas, kurio pagrindinis dėmesys skiriamas produktų kūrimui, vadovaujamiems įvairių sluoksnių ir bendruomenių žmonių, įskaitant neįgaliųjų bendruomenę, kuri ilgą laiką vaidina Pagrindinis vaidmuo čia. Ši koncepcija turi socialinę ir politinę reikšmę, tačiau dėl kapitalistinės rinkos struktūrų jos beveik neįmanoma tinkamai įgyvendinti.

Mašininis mokymasis išplečia platesnius technologijų pramonės prioritetus, kurių pagrindinis dėmesys skiriamas mastui ir išgavimui. Tai reiškia, kad dalyvaujamasis mašininis mokymasis kol kas yra oksimoronas. Pagal numatytuosius nustatymus dauguma mašininio mokymosi sistemų turi galimybę stebėti, engti ir priversti (įskaitant darbo vieta ). Šios sistemos taip pat turi būdų, kaip gauti sutikimą, pavyzdžiui, reikalaujant, kad vartotojai prisijungtų prie stebėjimo sistemų, kad galėtų naudoti tam tikras technologijas, arba diegiant Numatytieji nustatymai kurie atgraso juos nuo naudojimosi teise į privatumą.

Atsižvelgiant į tai, nenuostabu, kad mašininis mokymasis neatsižvelgia į esamą galios dinamiką ir taiko išskirtinį požiūrį į bendradarbiavimą. Jei nebūsime atsargūs, dalyvaujamasis mašininis mokymasis gali sekti AI etikos keliu ir tapti dar viena mada, naudojama įteisinti in teisingumas.

Geresnis būdas

Kaip galime išvengti šių pavojų? Paprasto atsakymo nėra. Bet čia yra keturi pasiūlymai:

Pripažinkite dalyvavimą darbu. Daugelis žmonių kasdien naudojasi mašininio mokymosi sistemomis. Didžioji šio darbo dalis palaiko ir tobulina šias sistemas, todėl yra vertinga sistemų savininkams. Norint tai pripažinti, visų naudotojų turėtų būti prašoma sutikimo ir jiems turi būti suteikta galimybė atsisakyti bet kurios sistemos. Jei jie nusprendžia dalyvauti, jiems turėtų būti pasiūlyta kompensacija. Tai gali reikšti, kad reikia išsiaiškinti, kada ir kaip duomenys, sukurti dėl naudotojo elgesio, bus naudojami mokymo tikslais (pavyzdžiui, naudojant reklamjuostę „Google“ žemėlapiuose arba pasirinkimo pranešimą). Tai taip pat reikštų tinkamos paramos teikimą turinio moderatoriai , sąžiningai kompensuojant darbuotojus vaiduoklius ir kuriant piniginio ar nepiniginio atlygio sistemas, skirtas kompensuoti vartotojams už jų duomenis ir darbą.

Konkrečią dalyvavimo kontekstą . Užuot bandę naudoti universalų metodą, technologai turi suvokti konkrečius kontekstus, kuriuose jie veikia. Pavyzdžiui, projektuojant a sistema, skirta numatyti jaunimo ir gaujų smurtą , technologai turėtų nuolat iš naujo įvertinti būdus, kaip jie remiasi įgyta patirtimi ir srities žiniomis, ir bendradarbiauti su žmonėmis, kuriems jie kuria. Tai ypač svarbu, nes laikui bėgant keičiasi projekto kontekstas. Net nedidelių proceso ir konteksto pokyčių dokumentavimas gali sudaryti žinių bazę ilgalaikiam ir efektyviam dalyvavimui. Pavyzdžiui, ar kuriant klinikinės priežiūros mašininio mokymosi sistemą turėtų būti konsultuojamasi tik su gydytojais, ar taip pat turėtų būti įtrauktos slaugytojai ir pacientai? Aišku, kodėl ir kaip tam tikros bendruomenės buvo įtrauktos, tokie sprendimai ir santykiai tampa skaidrūs, atskaitingi ir veiksmingi.

Nuo pat pradžių planuokite ilgalaikį dalyvavimą. Žmonės labiau linkę laikui bėgant įsitraukti į procesus, jei gali dalytis žiniomis ir įgyti jas, o ne gauti jas iš jų. Tai gali būti sunku pasiekti mašininio mokymosi metu, ypač patentuoto dizaino atvejais. Čia verta pripažinti įtampą, kuri apsunkina ilgalaikį dalyvavimą mašininiame mokyme, ir pripažinti, kad bendradarbiavimas ir teisingumas nesikeičia be trinties. Šios vertybės reikalauja nuolatinės priežiūros ir turi būti kartojamos vis naujuose kontekstuose.

Mokykitės iš praeities klaidų. Daugiau žalos galima padaryti atkartojant mąstymo būdus, kurie iš pradžių gamino kenksmingas technologijas. Mes, tyrėjai, turime stiprinti savo gebėjimą mąstyti šonuose įvairiose programose ir profesijose. Siekdama tai palengvinti, mašininio mokymosi ir projektavimo bendruomenė galėtų sukurti duomenų bazę, kurioje galima ieškoti, ir pabrėžti dalyvavimo projektavimo trūkumus (pvz., „Sidewalk Labs“ krantinės projektas Toronte ). Šios nesėkmės gali būti siejamos su socialinėmis ir struktūrinėmis sąvokomis (pavyzdžiui, su rasine nelygybe susijusios problemos). Ši duomenų bazė turėtų apimti projektavimo projektus visuose sektoriuose ir srityse, o ne tik mašininio mokymosi srityse, ir aiškiai pripažinti nebuvimą ir nukrypimus. Dažniausiai iš šių kraštutinių atvejų galime pasimokyti.

Įdomu matyti, kad mašininio mokymosi bendruomenė sprendžia teisingumo ir lygybės klausimus. Tačiau atsakymai neturėtų priklausyti tik nuo dalyvavimo. Sidabrinės kulkos troškimas per ilgai kankino technologijų bendruomenę. Atėjo laikas suvokti sudėtingumą, atsirandantį sprendžiant išgaunamą kapitalistinę mašininio mokymosi logiką.

Mona Sloane yra Niujorko universiteto sociologas. Ji dirba su dizaino nelygybe AI dizaino ir politikos kontekste.

paslėpti