Nuspėjamasis policijos darbas vis dar yra rasistinis, kad ir kokius duomenis ji naudotų

David McNew / Getty Images

Ne paslaptis, kad nuspėjamosios policijos priemonės yra rasiškai šališkas . Daugybė tyrimų parodė, kad gali atsirasti rasistinių grįžtamojo ryšio kilpų, jei yra algoritmai apmokytas policijos duomenimis , pavyzdžiui, areštai. Tačiau nauji tyrimai rodo, kad nuspėjamųjų priemonių mokymas taip, kad sumažintų šališkumą, turi mažai įtakos.

Duomenų suėmimas šalina nuspėjimo įrankius, nes žinoma, kad policija suima daugiau žmonių juodaodžiuose ir kituose mažumų rajonuose, todėl algoritmai nukreipia daugiau policijos į tas sritis, o tai lemia daugiau areštų. Rezultatas yra tai, kad nuspėjamieji įrankiai netinkamai paskirsto policijos patrulius: kai kurie rajonai yra nesąžiningai paskirti nusikalstamumo židiniais, o kiti yra nepakankamai prižiūrimi.

Susijusi istorija

Nuspėjamieji policijos algoritmai yra rasistiniai. Juos reikia išmontuoti. Skaidrumo trūkumas ir neobjektyvūs mokymo duomenys reiškia, kad šios priemonės netinkamos pagal paskirtį. Jei negalime jų ištaisyti, turėtume jų atsisakyti.

Gindamiesi daugelis nuspėjamųjų policijos priemonių kūrėjų teigia, kad jie pradėjo naudoti pranešimus apie aukas, kad gautų tikslesnį nusikalstamumo rodiklių įvairiose apylinkėse vaizdą. Teoriškai pranešimai apie aukas turėtų būti mažiau šališki, nes jiems nedaro įtakos policijos išankstinis nusistatymas ar grįžtamasis ryšys.

Tačiau Nil-Jana Akpinar ir Alexandra Chouldechova iš Carnegie Mellon universiteto ir Maria De-Arteaga iš Teksaso universiteto Ostine rodo, kad aukų pranešimų pateiktas vaizdas taip pat yra iškreiptas . Komanda sukūrė savo nuspėjimo algoritmą, naudodama tą patį modelį, kuris yra keliuose populiariuose įrankiuose, įskaitant PredPol, plačiausiai naudojamą sistemą JAV. Jie parengė pranešimų apie aukas duomenų modelį Bogotoje, Kolumbijoje, viename iš nedaugelio miestų, apie kuriuos galima gauti nepriklausomų pranešimų apie nusikaltimus duomenis pagal rajoną.

Palyginę savo įrankio prognozes su faktiniais nusikalstamumo duomenimis kiekviename rajone, jie nustatė, kad buvo padaryta didelių klaidų. Pavyzdžiui, rajone, kuriame buvo pranešta apie nedaug nusikaltimų, įrankis numatė apie 20 % faktinių karštųjų taškų – vietų, kuriose nusikalstamumas yra didelis. Kita vertus, rajone, kuriame gauta daug pranešimų, įrankis numatė 20 % daugiau karštųjų taškų, nei buvo iš tikrųjų.

Rashidos Richardson, teisininkės ir tyrėjos, tyrinėjančios algoritminį šališkumą Rutgerso teisės mokykloje Naujajame Džersyje, šie rezultatai sustiprina esamą darbą, kuris išryškina duomenų rinkinių, naudojamų nuspėjamojoje policijoje, problemas. Ji sako, kad jie lemia šališkus rezultatus, kurie nepagerina visuomenės saugumo. Manau, kad daugelis nuspėjamųjų policijos paslaugų teikėjų, tokių kaip PredPol, iš esmės nesupranta, kaip struktūrinės ir socialinės sąlygos iškreipia arba iškreipia daugybę nusikalstamumo duomenų formų.

Taigi kodėl algoritmas taip suklydo? Pranešimų apie aukas problema yra ta, kad juodaodžiai dažniau pranešami už nusikaltimą nei baltieji. Turtingesni baltieji dažniau praneša apie skurdesnį juodaodį, nei atvirkščiai. Be to, juodaodžiai dažniau praneša apie kitus juodaodžius. Kaip ir dėl suėmimo duomenų, juodaodžių rajonai dažniau, nei turėtų būti, pažymimi kaip nusikaltimų židiniai.

Kiti veiksniai taip pat iškreipia vaizdą. Pranešimas apie aukas taip pat yra susijęs su bendruomenės pasitikėjimu arba nepasitikėjimu policija, sako Richardsonas. Taigi, jei esate bendruomenėje, kurioje yra istoriškai korumpuotas arba žinomai rasistiškai šališkas policijos skyrius, tai turės įtakos tam, kaip ir ar žmonės praneša apie nusikaltimus. Tokiu atveju nuspėjamoji priemonė gali nepakankamai įvertinti nusikalstamumo lygį tam tikroje srityje, todėl negaus reikiamos policijos.

Nėra greito sprendimo

Dar blogiau, kad vis dar nėra akivaizdaus techninio pataisymo. Akpinar ir Chouldechova bandė pakoreguoti savo Bogotos modelį, kad atsižvelgtų į pastebėtus paklaidas, tačiau neturėjo pakankamai duomenų, kad padarytų didelį skirtumą, nepaisant to, kad Bogotos rajono lygmens duomenų yra daugiau nei bet kurio JAV miesto. Galiausiai neaišku, ar sušvelninti šališkumą šiuo atveju yra lengviau nei ankstesnės pastangos, kuriomis buvo siekiama panaikinti arešto duomenimis pagrįstas sistemas, sako Akpinar.

Ką galima padaryti? Richardsonas mano, kad vienintelis atsakymas yra visuomenės spaudimas išardyti rasistinius įrankius ir už jų slypinčią politiką. Tai tik politinės valios klausimas, sako ji. Ji pažymi, kad ankstyvieji nuspėjamųjų policijos priemonių taikytojai, pavyzdžiui, Santa Kruzas, paskelbė, kad daugiau jų nenaudos ir kad buvo baisių oficialių pranešimų apie LAPD ir Čikagos PD taikymą nuspėjamosios policijos. Tačiau atsakymai kiekviename mieste buvo skirtingi, sako ji.

Čikaga sustabdė nuspėjamosios policijos naudojimą, bet vėl investavo į duomenų bazę, skirtą policijos gaujoms, kurios, pasak Richardsono, turi daug tų pačių problemų.

Nerimą kelia tai, kad net tada, kai vyriausybiniai tyrimai ir ataskaitos randa reikšmingų problemų su šiomis technologijomis, nepakanka, kad politikai ir policijos pareigūnai pasakytų, kad jos neturėtų būti naudojamos, sako ji.

paslėpti