Tiesioginis veido atpažinimas seka vaikus, įtariamus nusikaltėliais

Ponia Tech | Getty

Nacionalinėje Argentinos duomenų bazėje dešimtyse tūkstančių įrašų pateikiami nusikaltimais įtariamų asmenų vardai, gimtadieniai ir nacionaliniai asmens tapatybės dokumentai. Duomenų bazė, žinoma kaip Consulta Nacional de Rebeldías y Capturas (Nacionalinis bėglių ir areštų registras) arba CONARC, buvo sukurta 2009 m., siekiant pagerinti sunkių nusikaltimų teisėsaugą.

Tačiau CONARC yra keletas dalykų. Pirma, tai paprasto teksto skaičiuoklės failas be apsaugos slaptažodžiu, kurį gali lengvai rasti per „Google“ paiešką ir atsisiųsti bet kas. Kita vertus, daugelis tariamų nusikaltimų, pavyzdžiui, smulkios vagystės, nėra tokie sunkūs, o kiti visiškai nenurodyti.

Tačiau didžiausią nerimą kelia jauniausio įtariamo nusikaltėlio amžius, įvardytas tik M. G., kuris kaltinamas nusikaltimais prieš asmenis (piktybiniais) – sunkiais sužalojimais. M.G. matyt, gimė 2016 m. spalio 17 d., o tai reiškia, kad jam savaitės trūksta ketverių metų.

Dabar naujas tyrimas iš Human Rights Watch nustatė, kad vaikai ne tik reguliariai įtraukiami į CONARC, bet ir duomenų bazėje veikia tiesioginė veido atpažinimo sistema Buenos Airėse, kurią diegia miesto valdžia. Dėl to ši sistema tikriausiai yra pirmasis žinomas tokio pobūdžio pavyzdys, naudojamas sumedžioti vaikus, įtariamus nusikalstama veikla.

Tai visiškai piktina, sako Hye Jung Han, vaikų teisių gynėjas iš Human Rights Watch, vadovavęs tyrimui.

Buenos Airės pirmą kartą pradėjo bandyti tiesioginį veido atpažinimą 2019 m. balandžio 24 d. Įdiegta be jokių viešų konsultacijų, sistema sukėlė tiesioginį pasipriešinimą. Spalio mėn., nacionalinė pilietinių teisių organizacija padavė ieškinį tam iššūkį. Reaguodama į tai, vyriausybė parengė naują įstatymo projektą, kuris įteisintų veidų atpažinimą viešose erdvėse.

Sistema nuo pat pradžių buvo sukurta susieti su CONARC. Nors pačiame CONARC nėra jokių tariamų nusikaltėlių nuotraukų, ji derinama su asmens dokumentais su nuotrauka iš nacionalinio registro. Programinė įranga naudoja įtariamųjų nuotraukas, kad realiuoju laiku per miesto metro kameras ieškotų rungtynių. Kai sistema pažymi asmenį, ji įspėja policiją, kad jis būtų sulaikytas.

Nuo to laiko sistema paskatino gausus klaidinga areštai (nuorodos ispanų k.), kurių tvarkymo protokolo policija neturi. Vienas vyras, kurio tapatybė buvo nustatyta klaidingai, buvo sulaikytas šešias dienas ir netrukus bus perkeltas į griežto režimo kalėjimą, kol galiausiai išsiaiškins savo tapatybę. Kitam buvo pasakyta, kad jis turėtų tikėtis, kad ateityje bus pakartotinai pažymėtas, nors jis įrodė, kad jis nėra tas, kurio ieško policija. Kad padėtų išspręsti painiavą, jie davė jam leidimą parodyti kitam pareigūnui, kuris galėtų jį sustabdyti.

Atrodo, kad nėra mechanizmo, kuris galėtų ištaisyti klaidas nei algoritme, nei duomenų bazėje, sako Hanas. Tai mums signalas, kad štai vyriausybė įsigijo technologiją, kurios ji nelabai supranta visų techninių ir žmogaus teisių pasekmių atžvilgiu.

Visa tai jau kelia didelį susirūpinimą, tačiau įtraukus vaikus į lygtį padėtis dar blogiau. Nors valdžia turi viešai paneigta (nuoroda ispanų k.), kad CONARC apima nepilnamečius, Human Rights Watch aptiko mažiausiai 166 vaikus, išvardytus įvairiose duomenų bazės versijose nuo 2017 m. gegužės iki 2020 m. gegužės mėn. Skirtingai nei M. G., dauguma jų identifikuojami visu vardu, o tai yra neteisėta. Pagal tarptautinę žmogaus teisių teisę, nusikaltimu apkaltintų vaikų privatumas turi būti apsaugotas viso proceso metu.

Be to, skirtingai nei M. G., daugumai jų buvo 16 ar 17 metų, kai atvyko, nors, kaip paslaptinga, buvo keletas vienerių ar trejų metų amžiaus. Amžius nėra vienintelės akivaizdžios klaidos vaikų įrašuose. Yra akivaizdžių rašybos klaidų, prieštaraujančių detalių ir kartais keli to paties asmens nacionaliniai ID. Kadangi vaikai taip pat fiziškai keičiasi greičiau nei suaugusieji, jų asmens dokumentai su nuotrauka gali būti pasenę.

Be to, net ir idealiomis laboratorinėmis sąlygomis veido atpažinimo sistemos sunkiai elgiasi su vaikais, nes jos yra apmokytos ir išbandomos pirmiausia su suaugusiaisiais. Buenos Airių sistema nesiskiria. Pagal oficialius dokumentus (nuoroda ispanų k.), ji buvo išbandyta tik su suaugusiais miesto valdžios darbuotojų veidais prieš pirkimą. Ankstesni JAV vyriausybės konkretaus algoritmo, kurį, kaip manoma, naudoja, bandymai taip pat rodo, kad vaikams (nuo 10 iki 16 metų) jis šešis kartus prastesnis nei suaugusiųjų (24–40 metų amžiaus).

Dėl visų šių veiksnių vaikams kyla didesnė rizika būti neteisingai atpažinti ir klaidingai suimti. Tai gali sukurti nepagrįstą teistumą, o tai gali turėti ilgalaikių pasekmių jų išsilavinimo ir įsidarbinimo galimybėms. Tai taip pat gali turėti įtakos jų elgesiui.

Argumentas, kad veido atpažinimas daro šiurpinantį poveikį saviraiškos laisvei, yra labiau sustiprintas vaikams, sako Hanas. Galite tiesiog įsivaizduoti, kad vaikas [kuris buvo klaidingai suimtas] labai cenzūruotų save arba būtų atsargus dėl to, kaip elgiasi viešumoje. Ir dar anksti bandyti išsiaiškinti ilgalaikį psichologinį poveikį – kaip tai gali suformuoti ir jų pasaulėžiūrą bei mąstymą.

Nors Buenos Airės yra pirmasis miestas, kurį Han nustatė naudodama tiesioginį veido atpažinimą, kad galėtų sekti vaikus, ji nerimauja, kad daugelis kitų pavyzdžių yra paslėpti. Sausį, Londonas paskelbė kad ji integruotų tiesioginį veido atpažinimą į savo policijos veiklą. Per kelias dienas Maskva pasakė, kad tai padarė įdiegė panašią sistemą per visą miestą.

Nors dar nežinoma, ar šios sistemos aktyviai bando suderinti vaikus, vaikai jau yra paveikti. 2020 m. dokumentiniame filme Užkoduotas šališkumas , Londono policija klaidingai sulaikė berniuką po to, kai tiesioginis veido atpažinimas supainiojo jį su kitu žmogumi. Neaišku, ar policija tikrai ieškojo nepilnamečio ar vyresnio amžiaus.

Net tie, kurie nėra sulaikyti, praranda teisę į privatumą, sako Hanas: Visi vaikai praeina prieš kamerą su veido atpažinimo funkcija, kad galėtų patekti į metro sistemą.

Diskusijose apie šias sistemas dažnai lengva pamiršti, kad vaikai reikia ypatingo dėmesio . Tačiau tai nėra vienintelė nerimo priežastis, priduria Han. Faktas, kad šiems vaikams bus taikoma tokia invazinė priežiūra – visos šios technologijos žmogaus teisės ir visuomeninės pasekmės vis dar nežinomos. Kitaip tariant: tai, kas bloga vaikams, galiausiai yra bloga visiems.

paslėpti