211service.com
AI siunčia žmones į kalėjimą ir daro tai neteisingai
Ianas Waldie / Getty Images
Gali atrodyti, kad dirbtinis intelektas neturi didelio asmeninio poveikio, jei dažniausiai naudojate mašininio mokymosi algoritmus „Facebook“ naujienų kanale arba „Google“ paieškos reitinguose. Tačiau pas „Black Lives“ duomenys Praėjusį savaitgalį vykusioje konferencijoje technologai, teisės ekspertai ir bendruomenės aktyvistai diskutuodami apie Amerikos baudžiamojo teisingumo sistemą pažvelgė į perspektyvą. Ten algoritmas gali nustatyti jūsų gyvenimo trajektoriją.
JAV įkalina daugiau žmonių nei bet kuri kita pasaulio šalis. 2016 m. pabaigoje beveik 2,2 milijono suaugusiųjų buvo laikomi kalėjimuose ar kalėjimuose, o dar 4,5 mln. buvo kituose pataisos namuose. Kitaip tariant, 1 iš 38 suaugusių amerikiečių buvo tam tikra pataisos priežiūra. Šios situacijos košmariškumas yra vienas iš nedaugelio klausimų, vienijančių politikus abiejose koridoriaus pusėse.
Esant didžiuliam spaudimui mažinti kalinių skaičių, nerizikuojant didėti nusikalstamumui, teismų salės visoje JAV pradėjo naudotis automatizuotomis priemonėmis, siekdamos kuo veiksmingiau ir saugiau sumaišyti kaltinamuosius per teisinę sistemą. Čia prasideda mūsų istorijos AI dalis.
Policijos departamentai naudoja nuspėjamuosius algoritmus, kad nustatytų, kur siųsti savo gretas. Teisėsaugos institucijos naudoja veido atpažinimo sistemas, kad padėtų nustatyti įtariamuosius. Ši praktika buvo pelnytai patikrinta, ar ji iš tikrųjų pagerina saugumą, ar tiesiog išlaiko esamą nelygybę. Tyrinėtojai ir pilietinių teisių gynėjai Pavyzdžiui, ne kartą įrodė, kad veido atpažinimo sistemos gali įspūdingai sugesti, ypač tamsiaodžiams asmenims, net jei Kongreso nariai būtų supainioti su nuteistais nusikaltėliais.
Tačiau kol kas prieštaringiausias įrankis atsirado po to, kai policija suėmė. Pasisveikinkite su nusikalstamos rizikos vertinimo algoritmais.
Rizikos vertinimo priemonės skirtos vienam dalykui: susipažinti su kaltinamojo profilio detalėmis ir išspjauti recidyvizmo balą – vieną skaičių, įvertinantį tikimybę, kad jis ar ji darys nusikaltimą. Tada teisėjas atsižvelgia į daugybę sprendimų, kurie gali nustatyti, kokias reabilitacijos paslaugas turėtų gauti konkretūs kaltinamieji, ar jie turėtų būti laikomi kalėjime prieš teismą ir kokia griežta turėtų būti bausmė. Žemas balas atveria kelią malonesniam likimui. Aukštas balas veikia visiškai priešingai.
Tokių algoritminių įrankių naudojimo logika yra ta, kad jei galite tiksliai numatyti nusikalstamą elgesį, galite atitinkamai paskirstyti išteklius reabilitacijai ar laisvės atėmimo bausmėms. Teoriškai tai taip pat sumažina bet kokį šališkumą, turintį įtakos procesui, nes teisėjai sprendimus priima remdamiesi duomenimis pagrįstomis rekomendacijomis, o ne savo nuojauta.
Galbūt jau pastebėjote problemą. Šiuolaikinės rizikos vertinimo priemonės dažnai yra valdomos algoritmais, parengtais remiantis istoriniais nusikalstamumo duomenimis.
Kaip jau minėjome anksčiau, mašininio mokymosi algoritmai naudoja statistiką, kad surastų duomenų šablonus. Taigi, jei pateiksite istorinius nusikalstamumo duomenis, jis atrinks su nusikalstamumu susijusius modelius. Tačiau šie modeliai yra statistiniai koreliacijos – niekur neprilygsta priežastinius ryšius . Pavyzdžiui, jei algoritmas nustatytų, kad mažos pajamos yra susijusios su dideliu recidyvu, tai neliktų išmintingesni dėl to, ar mažos pajamos iš tikrųjų sukėlė nusikaltimą. Tačiau būtent tai ir daro rizikos vertinimo priemonės: jos koreliacines įžvalgas paverčia priežastiniais balų nustatymo mechanizmais.
Dabar gyventojams, į kuriuos istoriškai neproporcingai nusitaikė teisėsauga, ypač mažas pajamas gaunančioms ir mažumų bendruomenėms, gresia aukšti pakartotinio nusikalstamumo balai. Dėl to algoritmas galėtų sustiprinti ir išsaugoti įterptuosius paklaidas ir generuoti dar daugiau šališkumo sugadintų duomenų, kad paskatintų užburtą ratą. Kadangi dauguma rizikos vertinimo algoritmų yra patentuoti, taip pat neįmanoma apklausti jų sprendimų arba priversti juos atsakyti.
Diskusijos dėl šių priemonių tebevyksta. Praėjusių metų liepą daugiau nei 100 pilietinių teisių ir bendruomenės organizacijų, įskaitant ACLU ir NAACP, pasirašė pareiškimas, raginantis nenaudoti rizikos vertinimo. Tuo pačiu metu vis daugiau jurisdikcijų ir valstijų, įskaitant Kaliforniją, kreipiasi į jas, siekdamos sutvarkyti perkrautus kalėjimus ir kalėjimus.
Duomenimis pagrįstas rizikos vertinimas yra būdas dezinfekuoti ir įteisinti slopinančias sistemas, sakė Marbre Stahly-Butts, Juodųjų gyvenimų teisės vykdomasis direktorius. konferencijos scenoje , kuris buvo surengtas MIT Media Lab. Tai būdas nukreipti dėmesį nuo faktinių problemų, turinčių įtakos mažas pajamas gaunančioms ir mažumų bendruomenėms, pvz., atimtos mokyklos ir netinkama prieiga prie sveikatos priežiūros.
Mes nerizikuojame, sakė ji. Mes esame poreikiai.
Ši istorija iš pradžių pasirodė mūsų AI informaciniame biuletenyje „Algoritmas“. Jei norite, kad jis būtų pristatytas tiesiai į jūsų pašto dėžutę, užsiprenumeruokite čia nemokamai.