NYPD naudojo prieštaringą veido atpažinimo įrankį. Štai ką reikia žinoti.

Getty

„Clearview AI“ – prieštaringai vertinamai veido atpažinimo įmonei, kuri naudoja 3 milijardus nuotraukų, išgrynintų iš žiniatinklio, veidų paieškos varikliui maitinti – buvo įtempta savaitė. Balandžio 6 d. paskelbė „Buzzfeed News“. daugiau nei 1800 subjektų duomenų bazė įskaitant valstybinę ir vietos policiją bei kitas mokesčių mokėtojų finansuojamas agentūras, tokias kaip sveikatos priežiūros sistemos ir valstybinės mokyklos, kurios, kaip teigiama, naudojo prieštaringai vertinamus bendrovės produktus. Daugelis tų agentūrų atsakė į kaltinimus sakydamos, kad tik išbandė technologiją ir neturėjo oficialios sutarties su įmone.

Tačiau dieną prieš „Clearview“ bandymo apibrėžimas buvo išsamiai aprašytas ne pelno siekiančioje naujienų svetainėje Muckrock paskelbė el. laiškus tarp Niujorko policijos departamento ir bendrovės. Dokumentuose, kuriuos Teisinės pagalbos draugija ir žurnalistė Rachel Richards gavo gavus informacijos laisvės prašymus, seka draugiškus dvejų metų santykius tarp departamento ir technologijų įmonės, per kurį NYPD daug kartų išbandė technologiją ir naudojo veido atpažinimą atliekant tiesioginius tyrimus. .

Susijusi istorija

JAV yra veido atpažinimo ir policijos krizė Labai ydinga technologija plačiai naudojama, iš esmės nepatenka į viešumą

NYPD anksčiau sumenkino savo santykius su Clearview AI ir bendrovės technologijų naudojimą. Tačiau elektroniniai laiškai rodo, kad santykiai tarp jų buvo gerai išplėtoti – daug policijos pareigūnų atliko daug paieškų naudodami programėlę ir naudojo jas realiuose tyrimuose. NYPD turi atlikti daugiau nei 5100 paieškų su Clearview AI.

Tai ypač problematiška, nes nurodyta politika riboja NYPD nuo neprižiūrimos nuotraukų saugyklos, kurią veido atpažinimo sistemos gali remtis, kūrimo ir apriboja veido atpažinimo technologijos naudojimą konkrečiai komandai. Atrodo, kad abi politikos kryptys buvo apeitos naudojant „Clearview AI“. El. laiškai atskleidžia, kad NYPD daugeliui pareigūnų, nepriklausančių veido atpažinimo komandai, suteikė prieigą prie sistemos, kuri remiasi didžiule viešų nuotraukų iš socialinės žiniasklaidos biblioteka. El. laiškuose taip pat parodyta, kaip NYPD pareigūnai, pažeisdami nurodytą politiką, atsisiuntė programėlę į savo asmeninius įrenginius ir naudojo galingą ir šališkas technologija atsitiktinai.

„Clearview AI“ valdo galingą neuroninį tinklą, kuris apdoroja veidų nuotraukas ir lygina jų tikslius matavimus bei simetriją su didžiule nuotraukų duomenų baze, kad pasiūlytų galimus atitikmenis. Neaišku, ar ši technologija yra tiksli, tačiau ją plačiai naudoja policijos departamentai ir kitos vyriausybinės agentūros. „Clearview AI“ buvo smarkiai kritikuojamas už asmenį identifikuojančios informacijos naudojimą, sprendimą pažeisti žmonių privatumą iškraunant nuotraukas iš interneto be jų leidimo ir klientų pasirinkimą.

El. laiškai apima laikotarpį nuo 2018 m. spalio mėn. iki 2020 m. vasario mėn Clearview AI generalinis direktorius Hoanas Ton-That buvo supažindintas su NYPD inspektoriaus pavaduotoju Chrisu Flanaganu. Po pirminių susitikimų „Clearview AI“ 2018 m. gruodžio mėn. sudarė bandomąją pardavėjo sutartį su NYPD, kuri tęsėsi iki kito kovo mėnesio.

Dokumentai rodo, kad daugelis NYPD asmenų turėjo prieigą prie „Clearview“ tuo metu ir po jo – nuo ​​skyriaus vadovų iki jaunesniųjų pareigūnų. Viso mainų metu „Clearview AI“ skatino daugiau naudotis savo paslaugomis. (Pažiūrėkite, ar galite pasiekti 100 paieškų, jo priėmimo instrukcijos paragino pareigūnus.) El. laiškai rodo, kad bandomosios NYPD paskyros buvo sukurtos dar 2020 m. vasario mėn., praėjus beveik metams po to, kai, kaip teigiama, baigėsi bandomasis laikotarpis.

Peržiūrėjome el. laiškus ir apie jų turinį kalbėjomės su aukščiausiais priežiūros ir teisės ekspertais. Štai ką reikia žinoti.

NYPD melavo apie savo santykių su Clearview AI mastą ir jos veido atpažinimo technologijos naudojimą

NYPD pasakė „BuzzFeed“ naujienos ir New York Post anksčiau ji neturėjo institucinių santykių su Clearview AI nei formaliai, nei neoficialiai. Departamentas atskleidė, kad išbandė „Clearview AI“, tačiau el. laiškai rodo, kad technologiją ilgą laiką naudojo daug žmonių, atlikusių daugybę paieškų realių tyrimų metu.

Vieno apsikeitimo metu skyriaus veido atpažinimo skyriuje dirbantis detektyvas pasakė: Programėlė veikia puikiai. Kitame NYPD tapatybės vagysčių būrio pareigūnas pasakė, kad mes ir toliau gauname teigiamų rezultatų ir pradėjome areštuoti. (Iš šių vaizdų pašalinome visus vardus ir el. pašto adresus; kita asmeninė informacija buvo ištaisyta pirminiuose dokumentuose.)

Albertas Foxas Cahnas, „Surveillance Technology Oversight Project“, ne pelno organizacijos, pasisakančios už tai, kad policija panaikintų veido atpažinimo technologiją Niujorke, vykdomasis direktorius, sako, kad įrašai aiškiai prieštarauja ankstesniems NYPD viešiems pareiškimams dėl Clearview AI naudojimo.

Jis sako, kad čia yra modelis, kai pareigūnai gauna Clearview sąskaitas – ne savaites ar mėnesius, o bėgant metams. Turime įrodymų apie susitikimus su aukščiausio lygio NYPD pareigūnais, įskaitant veido atpažinimo skyrių. Tai ne keli pareigūnai, kurie nusprendžia pasitraukti ir gauti bandomąją sąskaitą. Tai buvo sistemingas Clearview veido atpažinimo technologijos pritaikymas niujorkiečiams.

Be to, NYPD jo veido atpažinimo naudojimo aprašymas , kurio reikalaujama pagal neseniai priimtą įstatymą, sakoma, kad tyrėjai palygina tyrimų metu gautus vaizdus su kontroliuojama ir ribota nuotraukų grupe, kurią jau turi NYPD. Clearview AI yra žinomas dėl savo duomenų bazės daugiau nei 3 milijardai nuotraukų iškrapštytas iš interneto.

NYPD glaudžiai bendradarbiauja su imigracijos vykdytojais, o pareigūnai perdavė Clearview AI į ICE

Dokumentuose yra keli el. laiškai iš NYPD, kurie, atrodo, yra nukreipimai, padedantys Clearview parduoti savo technologiją Tėvynės saugumo departamentui. Dviejų policijos pareigūnų elektroninio pašto parašuose buvo ir NYPD, ir Tėvynės saugumo atstovai, o kitas pareigūnas nurodė, kad yra Tėvynės saugumo darbo grupės narys.

Tiesiog atrodo, kad yra tiek daug bendravimo, galbūt dalijamasi duomenimis ir tiek daug nereguliuojamo technologijų naudojimo.

Niujorkas yra paskirtas kaip šventovės miestas, o tai reiškia, kad vietos teisėsauga riboja bendradarbiavimą su federalinėmis imigracijos agentūromis. Tiesą sakant, NYPD veido atpažinimas politikos pareiškimas teigia, kad informacija nėra dalijamasi skatinant imigracijos vykdymą ir prieiga nebus suteikta kitoms agentūroms, siekiant toliau vykdyti imigracijos vykdymą.

Manau, kad vienas iš didžiausių dalykų yra tai, kaip neteisėta ir nereglamentuojama sąveika, stebėjimas ir dalijimasis duomenimis tarp vietos policijos, federalinės teisėsaugos ir imigracijos vykdymo, sako Matthew Guariglia, Electronic Frontier Foundation analitikas. Tiesiog atrodo, kad yra tiek daug bendravimo, galbūt dalijamasi duomenimis ir tiek daug nereguliuojamo technologijų naudojimo.

Cahn sako, kad el. laiškai iškart skamba pavojaus varpais, ypač todėl, kad daug teisėsaugos informacijos patenka per centrines sistemas, žinomas kaip sintezės centrai.

Galite tvirtinti, kad esate šventovės miestas, bet tol, kol turėsite šias DHS darbo grupes, tol, kol turėsite informacijos sintezės centrus, leidžiančius realiuoju laiku keistis duomenimis su DHS. kad pažadas virsta melu.

Daugelis pareigūnų prašė naudoti Clearview AI savo asmeniniuose įrenginiuose arba per savo asmenines el. pašto paskyras

Mažiausiai keturi pareigūnai paprašė prieigos prie Clearview programėlės savo asmeniniuose įrenginiuose arba asmeniniais el. Skyriaus įrenginiai yra griežtai reguliuojami, todėl gali būti sunku atsisiųsti programas į oficialius NYPD mobiliuosius telefonus. Kai kurie pareigūnai aiškiai pasirinko naudoti savo asmeninius įrenginius, kai departamento telefonai buvo per daug ribojantys.

„Clearview“ atsakė į šį el. laišką, Sveiki, William, netrukus jūsų gautuosiuose turėtų būti sąrankos el. laiškas.

Jonathan McCoy yra teisinės pagalbos draugijos skaitmeninės kriminalistikos advokatas ir dalyvavo teikiant užklausą dėl informacijos laisvės. Asmeninių prietaisų naudojimas jam atrodė ypač varginantis: Mano nuomone, jie aktyviai bandė apeiti NYPD politiką ir procedūras, kuriose teigiama, kad jei ketinate naudoti veido atpažinimo technologiją, turite pereiti per FIS (veido atpažinimo skyrių). ir jie turi naudoti technologiją, kurią jau patvirtino NYPD didmeninė prekyba. NYPD jau turi veido atpažinimo sistemą, kurią teikia įmonė Dataworks.

Susijusi istorija

Aktyvistas, išardantis rasistinius policijos algoritmus Hamidas Khanas laimi kovą už LAPD naudojamų stebėjimo technologijų panaikinimą

Guariglia teigia, kad tai rodo NYPD ir Clearview AI nerūpestingumą. Man būtų baisu sužinoję, kad policijos pareigūnai naudojo Clearview savo asmeniniuose įrenginiuose, kad nustatytų žmones, kurie vėliau prisidėjo prie areštų ar oficialių NYPD tyrimų, sako jis.

Susirūpinimas šiais el. laiškais nėra tik teorinis: jie gali leisti policiją apskųsti teisme ir netgi panaikinti bylas, nes nesilaikoma tvarkos. McCoy sako, kad Teisinės pagalbos draugija planuoja panaudoti el. laiškų įrodymus, kad apgintų klientus, kurie buvo suimti dėl tyrimo, kuriame buvo naudojamas veido atpažinimas.

Tikimės, kad turėsime pagrindo kreiptis į teismą ir pasakyti, kad bet koks apkaltinamasis nuosprendis buvo gautas naudojant programinę įrangą, buvo padaryta taip, kad tai neatitiko NYPD politikos ir procedūrų, sako jis. Kadangi „Clearview“ yra neišbandyta ir nepatikima technologija, galime teigti, kad tokios technologijos naudojimas pažeidžia mūsų klientų teises.

paslėpti