Naujasis ieškinys, kuriame parodytas veido atpažinimas, oficialiai yra pilietinių teisių problema

ACLU

2020 m. sausio 9 d. Detroito policija nuvažiavo į Farmington Hill priemiestį ir sulaikė Robertą Williamsą jo važiuojamojoje dalyje, kol žiūrėjo jo žmona ir mažametės dukros. Juodasis Williamsas buvo apkaltintas laikrodžių vagyste iš prabangios parduotuvės „Shinola“. Naktį jis buvo laikomas kalėjime.

Per apklausą pareigūnas Williamsui parodė įtariamojo nuotrauką. Jo atsakymas, kaip jis sakė ACLU , turėjo ieškinį atmesti. Tai ne aš, pasakė jis pareigūnui. Tikiuosi, jūs nemanote, kad visi juodaodžiai atrodo vienodai. Jis sako, kad pareigūnas atsakė: Kompiuteris sako, kad tai tu.

Susijusi istorija

Kas atsitinka, kai algoritmas suklysta

Keistas dalykas, susijęs su Roberto Williamso klaidingu areštu, buvo ne tai, kad policija naudojo veido atpažinimą, kad nustatytų jo tapatybę. Tai, kad jie jam apie tai papasakojo.

Williamso neteisėtas areštas, apie kurį pirmą kartą pranešė „New York Times“. 2020 metų rugpjūčio mėnesį , buvo paremtas blogu atitikmeniu iš Detroito policijos departamento veido atpažinimo sistemos. Dar du atvejų melagingų areštų nuo to laiko buvo paskelbtos viešai. Abu taip pat yra juodaodžiai ir abu ėmėsi teisinių veiksmų.

Dabar Williamsas seka jų keliu ir eina toliau – ne tik paduodamas departamentą į teismą dėl jo neteisėto arešto, bet ir bandydamas uždrausti technologiją.

Antradienį ACLU ir Mičigano universiteto teisės mokyklos civilinių teisių ginčų iniciatyva padavė ieškinį Williamso vardu, teigdamas, kad areštas pažeidė jo Ketvirtojo pakeitimo teises ir nepaisė Mičigano pilietinių teisių įstatymo.

Ieškinyje reikalaujama kompensacijos, didesnio skaidrumo dėl veido atpažinimo ir Detroito policijos departamento tiesioginio ar netiesioginio veido atpažinimo technologijos naudojimo nutraukimo.

Kas byloja ieškinyje

The dokumentai pateikti antradienį išdėstyti bylą. 2019 m. kovo mėn. DPD per savo veido atpažinimo sistemą paleido grūdėtą juodaodžio su raudonu dangteliu nuotrauką iš Shinola stebėjimo vaizdo įrašo, kurią padarė bendrovė „DataWorks Plus“. Sistema grąžino atitikmenį su sena Williams vairuotojo pažymėjimo nuotrauka. Tyrimą atliekantys pareigūnai įtraukė Williamo licencijos nuotrauką į nuotraukų rinkinį ir Shinola apsaugos rangovą ( kurio iš tikrųjų nebuvo vagystės metu) atpažino Williamsą kaip vagį. Pareigūnai gavo orderį, kuriam reikia daug kartų pasirašyti skyriaus vadovybę, ir Williamsas buvo areštuotas.

Skunde teigiama, kad klaidingas Williamso areštas buvo tiesioginis veido atpažinimo sistemos rezultatas ir kad ši neteisėto arešto ir įkalinimo byla parodo didelę žalą, padarytą netinkamai naudojant veido atpažinimo technologiją ir pasikliaujant ja.

Byloje yra keturi kaltinimai, iš kurių trys susiję su tikėtinos arešto priežasties nebuvimu, o viena – į rasinius veido atpažinimo poveikio skirtumus. Naudodama technologijas, kurios, kaip empiriškai įrodyta, gali klaidingai identifikuoti juodaodžius daug dažniau nei kitos žmonių grupės, teigiama, kad DPD neleido ponui Williamsui visiškai ir vienodai naudotis Detroito policijos departamento paslaugomis, privilegijomis ir pranašumais dėl jo rasės. arba spalva.

Veido atpažinimo technologijos sunkumai atpažįsta tamsesnio gymio žmones gerai dokumentuota . Po George'o Floydo nužudymo Mineapolyje 2020 m. kai kurie miestai ir valstijos paskelbė draudimus ir moratoriumus policijai naudoti veido atpažinimo priemones. Tačiau daugelis kitų, įskaitant Detroitą, ir toliau jį naudojo, nepaisant didėjančio susirūpinimo.

Pasikliaujama žemesniais vaizdais

Kai praėjusiais metais MIT Technology apžvalga kalbėjosi su Williamso ACLU teisininku Philu Mayoru, jis pabrėžė, kad dėl rasizmo problemų Amerikos teisėsaugoje veido atpažinimo naudojimas dar labiau susirūpinęs.

Meras sakė, kad tai nėra vieno blogo veikėjo situacija. Tai situacija, kai turime baudžiamąją teisinę sistemą, kuri itin greitai apmokestinama ir itin lėtai gina žmonių teises, ypač kai kalbame apie spalvotus žmones.

Ericas Williamsas, Detroito Ekonominio teisingumo praktikos vyresnysis advokatas, teigia, kad fotoaparatai turi daug technologinių apribojimų, ypač tai, kad jie yra užkoduoti spalvų diapazonais, leidžiančiais atpažinti odos atspalvį, ir dažnai tiesiog negali apdoroti tamsesnės odos.

„Manau, kad kiekvienas juodaodis šalyje yra patyręs, kad yra nuotraukoje ir nuotrauka tampa šviesesnė arba tamsesnė.

Manau, kad kiekvienas juodaodis šalyje yra patyręs būdamas nuotraukoje ir nuotrauka tampa šviesesnė arba tamsesnė, sako Williamsas, kuris yra Mičigano teisininkų komiteto narys, bet nedirba su Robertu. Williamso byla. Apšvietimas yra vienas iš pagrindinių veiksnių, susijusių su vaizdo kokybe. Taigi faktas, kad teisėsauga tam tikru mastu remiasi tikrai menkais vaizdais, yra problemiška.

Buvo atvejų, kai dėl rasės buvo ginčijami šališki algoritmai ir dirbtinio intelekto technologijos. Pavyzdžiui, „Facebook“ patyrė masinis pilietinių teisių auditas po to, kai buvo nustatyta, kad jos tiksliniai reklamavimo algoritmai teikia skelbimus rasės, lyties ir religijos pagrindu. „YouTube“ buvo iškelta byla Black kūrėjų grupės ieškinys kuris teigė, kad jo AI sistemos profiliuoja naudotojus ir cenzūruoja arba diskriminuoja turinį dėl rasės. „YouTube“ taip pat padavė į teismą LGBTQ+ kūrėjai, kurie teigė, kad turinio moderavimo sistemos pažymėjo žodžius gėjus ir lesbietė.

Kai kurie ekspertai teigia, kad buvo tik laiko klausimas, kol tokia didelė institucija, kaip policija, naudos šališkas technologijas, susidurs su teisiniais iššūkiais.

Susijusi istorija

Kodėl 2020-ieji buvo pagrindiniai, prieštaringi metai veido atpažinimui Rasinio teisingumo judėjimas iškėlė su technologijomis susijusias problemas į visuomenės sąmonę, tačiau nepaisant skandalų ir draudimų, jos augimas nelėtėja.

Vyriausybinis veido atpažinimo naudojimas neabejotinai turi skirtingą poveikį spalvotiems žmonėms, sako Adam Schwartz, Electronic Frontier Foundation vyresnysis teisininkas. Tyrimas po tyrimo rodo, kad ši pavojinga technologija turi daug didesnį klaidingų teigiamų rezultatų skaičių spalvotiems žmonėms, palyginti su baltaisiais. Taigi vyriausybės naudojimasis šia technologija pažeidžia įstatymus, draudžiančius vyriausybei taikyti praktiką, kuri sukelia skirtingą poveikį.

Tačiau Meras, Williamso advokatas, tikėjosi sunkios kovos. Praėjusiais metais jis sakė „MIT Technology Review“, kad tikisi, kad Detroito policijos departamentas tai padarys ir toliau teigia, kad veido atpažinimas yra puiki tyrimo priemonė.

Williamso atvejis įrodo, kad taip nėra. Tai visai ne, sakė jis. Ir iš tikrųjų, tai gali pakenkti žmonėms, kai naudojate jį kaip tyrimo priemonę.

Po mikroskopu

Detroito miesto advokatas Lawrence'as Garcia pareiškime teigė, kad miestas siekė „pasiekti sprendimą“ šioje byloje, tačiau teigė, kad dėl susidariusios situacijos kaltas ne veido atpažinimas.

„Kaip paaiškino policijos viršininkas, areštas buvo nekokybiško tyrimo rezultatas – ne dėl technologijos gedimo“, – sakė Garcia. „Detroito policijos departamentas atliko vidinį tyrimą ir keliems departamento nariams pateikė kaltinimus dėl nusižengimo. DPD įdiegė naujus protokolus, kad išvengtų panašių problemų.

Tačiau „Williams“ kostiumas ateina kritiniu metu lenktynėms ir policijai JAV. Jis buvo pateiktas gynybos advokatams pradėjus ginčus per Dereko Chauvino, pareigūno, apkaltinto George'o Floydo nužudymu Mineapolyje praėjusių metų gegužę, teisme ir trečią protestų dieną, reaguojant į Daunte Wright sušaudymą netoliese esančiame Bruklino centre, Minesotoje. 20-metis juodaodis Wrightas buvo sustabdytas eismui ir buvo suimtas pagal orderį, kol pareigūnas Kimas Potteris jį nušovė ir nužudė, tariamai supainiodamas savo ginklą su elektros lazeriu.

Ericas Williamsas sako, kad šiame platesniame policijos nesėkmių kontekste labai svarbu suprasti veido atpažinimą:

Kai DPD nusprendė įsigyti šią technologiją... buvo žinoma, kad veido atpažinimo technologija buvo linkusi klaidingai identifikuoti tamsesnio gymio žmones, kol ponas Williamsas buvo sulaikytas, tiesa? Nepaisant to, mieste, kuriame juoda daugiau nei 80 proc., jie pasirinko naudoti šią technologiją.

Akivaizdu, kad jūs mažiau vertinate juodaodžių gyvenimą, pragyvenimo šaltinius ir pilietines laisves nei baltaodžius. Tai tiesiog per daug įprasta dabartinėse JAV.

Ši istorija buvo atnaujinta, įtraukiant Detroito miesto pareiškimą. Jennifer Strong prisidėjo prie šios istorijos pranešimo.

paslėpti