JAV yra veido atpažinimo ir policijos krizė

Ponia Tech | Atskleiskite purslą

Kai pasklido žinia, kad dėl klaidingos veidų atpažinimo sistemos atitikimo Detroito policija suėmė Robertą Williamsą už nusikaltimą, kurio jis nepadarė, buvo birželio pabaiga, o šalyje jau kilo suirutė dėl George'o Floydo mirties prieš mėnesį. . Netrukus paaiškėjo, kad dar vienas juodaodis Michaelas Oliveris buvo suimtas panašiomis aplinkybėmis kaip ir Williamsas. Nors didžioji dalis JAV ir toliau šaukiasi rasinio teisingumo, vyksta tylesnis pokalbis apie veido atpažinimo technologiją ir policiją. Mums būtų gerai išklausyti.

Kai Jennifer Strong ir aš pradėjome pranešti apie policijos naudojamą veido atpažinimo technologiją mūsų naujajai tinklalaidei, Mašinose, kuriomis pasitikime , žinojome, kad šias dirbtinio intelekto sistemas naudoja policininkai visoje JAV ir kitose šalyse. Bet mes neįsivaizdavome, kiek daug kas vyksta iš visuomenės akių.

Pirmiausia, mes nežinome, kaip dažnai JAV policijos departamentai naudoja veido atpažinimą dėl tos paprastos priežasties, kad daugelyje jurisdikcijų jie neprivalo pranešti, kai naudoja jį nusikaltimu įtariamajam identifikuoti. The naujausi skaičiai yra spėliotini, o nuo 2016 m , tačiau jie teigia, kad tuo metu mažiausiai pusė amerikiečių turėjo nuotraukas veido atpažinimo sistemoje. Vienoje Floridos grafystėje kiekvieną mėnesį buvo atlikta 8000 paieškų.

Taip pat nežinome, kurie policijos skyriai turi veido atpažinimo technologiją, nes policija dažnai nutyli savo viešųjų pirkimų procesą. Pavyzdžiui, yra įrodymų, kad daugelis skyrių perka savo technologijas naudodamiesi federalinėmis dotacijomis arba ne pelno dovanomis, kurioms netaikomi tam tikri atskleidimo įstatymai. Kitais atvejais įmonės siūlo policijos bandomuosius savo programinės įrangos laikotarpius, leidžiančius pareigūnams naudotis sistemomis be jokio oficialaus patvirtinimo ar priežiūros. Tai leidžia įmonėms, gaminančioms veido atpažinimo sistemas, teigti, kad jų produktai yra plačiai naudojami, ir susidaro įspūdis, kad tai populiarios ir patikimos nusikaltimų tyrimo priemonės.

Apsaugoti algoritmai, kurie neveikia

Bet jei veido atpažinimas yra žinomas dėl ko nors, tai koks jis nepatikimas. Kaip pranešame laidoje, sausio mėnesį Londono Metropoliteno policija debiutavo tiesioginio veido atpažinimo sistema kad bandymuose turėjo tikslumas mažesnis nei 20 % . Niujorke, Metro tranzito tarnyba išbandė sistemą pagrindinėse magistralėse, kurių tikslumas yra 0 %. Sistemos dažnai taip pat yra rasinės tendencijos – viename tyrime nustatyta, kad kai kuriose komercinėse sistemose net laboratorijos sąlygomis klaidų lygis identifikuojant tamsesnės odos moteris buvo apie 35 proc. Pranešdami apie laidą, pastebėjome, kad neretai policija keičia nuotraukas, kad padidintų galimybes rasti atitikmenį. Kai kurie netgi gynė šią praktiką kaip svarbią geram policijos darbui.

Dvi kontroversiškiausios ir pažangiausios įmonės šioje srityje – ClearviewAI ir NTechLabs – teigia išsprendusios šališkumo problemą ir pasiekusios beveik tobulą tikslumą. ClearviewAI tvirtina, kad jį naudoja maždaug 600 JAV policijos departamentų (kai kurie ekspertai, su kuriais kalbėjomės, skeptiškai vertino šį skaičių). Rusijoje įsikūrusi „NTechLabs“ prisijungė prie tiesioginio vaizdo atpažinimo visame Maskvos mieste.

Tačiau beveik nėra galimybės savarankiškai patikrinti jų teiginių. Abi bendrovės turi algoritmus, kurie saugomi milijardų viešų nuotraukų duomenų bazėse. Tuo tarpu Nacionalinis standartų ir technologijų institutas (NIST) siūlo vieną iš nedaugelio nepriklausomų veido atpažinimo technologijos auditų. NIST pardavėjo testas naudoja daug mažesnį duomenų rinkinį, kuris kartu su duomenų bazėje esančių vaizdų kokybe ir įvairove riboja jo, kaip audito įrankio, galią. „ClearviewAI“ neatliko naujausio NIST testo. „NTechLabs“ atliko statinio vaizdo testą ir pasirodė gerai, tačiau šiuo metu nėra jokio tiesioginio vaizdo veido atpažinimo testo. Taip pat nėra nepriklausomo testo, skirto specialiai šališkumui.

Atpažinimas gatvėse

Neseniai įvykusi „Black Lives Matter“ protestų banga, kurią sukėlė Floydo mirtis, suabejojo ​​daugeliu to, ką mes sutikome apie šiuolaikinę policijos veiklą, įskaitant technologijų naudojimą. Tamsi ironija ta, kad kai žmonės išeina į gatves protestuoti prieš rasizmą policijos veikloje, kai kurios policijos prieš susirinkusiuosius panaudojo pažangiausias priemones, turinčias žinomą rasinį šališkumą. Pavyzdžiui, tai žinome Baltimorės policijos departamentas protestuotojams naudojo veido ID po Fredžio Grėjaus mirties 2015 m. Ir žinome, kad keletas departamentų viešai ragino pateikti šių metų protestų filmuotą medžiagą. Buvo dokumentuota, kad Mineapolio policija turi prieigą prie įvairių technologijų, įskaitant ClearviewAI paslaugas . Pasak Jamesono Spivacko iš Džordžtauno universiteto Privatumo ir technologijų centro, su kuriuo interviu laidoje, jei veido atpažinimas naudojamas per BLM protestus, tai yra konkrečiai juodaodžių politinė kalba ir atgrasoma nuo jos.

Po daugelio metų kovos už reguliavimą, daugiausia juodaodžių ir rudųjų vadovaujamų organizacijų , niekada nebuvome geresniu momentu iš tikrųjų pasikeisti. „Microsoft“, „Amazon“ ir IBM paskelbė apie savo veido atpažinimo produktų nutraukimą arba moratoriumą. Per pastaruosius kelis mėnesius keli didžiausi JAV miestai paskelbė draudimus arba moratoriumus šiai technologijai. Kita vertus, technologijos sparčiai tobulėja. Sistemų galimybės, taip pat piktnaudžiavimo ir piktnaudžiavimo galimybė, ir toliau sparčiai augs. Jau pradedame matyti, kad policijos skyriai ir technologijų tiekėjai perėjo ne tik statines, retrospektyvias veido atpažinimo sistemas, bet ir prie tiesioginės vaizdo analizės, integruotos su kitų tipų duomenų srautais, pvz., garso šūvių stebėjimo sistemomis.

Kai kurie policijos pareigūnai, su kuriais kalbėjomės, teigė, kad XXI amžiuje jiems nereikėtų palikti archajiškų įrankių kovoti su nusikalstamumu. Ir tiesa, kad kai kuriais atvejais technologijos gali padaryti policijos darbą mažiau smurtingą ir mažiau linkę į žmonių šališkumą.

Tačiau po kelių mėnesių reportažų apie mūsų garso mini serialą apėmė nuojauta. Akcijos su kiekviena diena auga, o iki šiol visuomenė nesuvokia, kas vyksta. Neaišku, kaip tai pasikeis, nebent visi žmonės iš visų šio klausimo pusių sutiks, kad kiekvienas turi teisę būti informuotas.

paslėpti