Kodėl 2020-ieji buvo pagrindiniai, prieštaringi metai veido atpažinimui

Aleksandras Farnsworthas | Getty

Pirmą kartą Amerikoje patvirtintas neteisėtas suėmimas naudojant veido atpažinimo technologiją įvyko 2020 m. sausį. Juodasis Robertas Williamsas buvo sulaikytas savo važiuojamojoje dalyje visai šalia Detroito, o jo žmona ir maža dukra stebėjo. Naktį praleido kalėjime. Kitą dieną apklausos kambaryje detektyvas per stalą Viljamsui numetė kito juodaodžio paveikslą, kuris buvo užfiksuotas vaizdo įraše vagiantis laikrodžius iš parduotuvės Shinola.

Ar tai jūs? jis paklausė .

Ne, tai ne aš. Williamsas atsakė.

Detektyvas perdavė kitą nuotrauką. Manau, tai irgi ne tu?

Williamsas laikė nuotrauką šalia veido. Akivaizdu, kad tai nebuvo jis. Williamsas pasakė: „Tai ne aš“. Tikiuosi, jūs nemanote, kad visi juodaodžiai atrodo vienodai.

Kompiuteris sako, kad tai tu, atsakė detektyvas.

Naujas dalykas apie Roberto Williamso areštas ar tai ne tai įvyko, ar tai buvo klaida. Žinoma, kad tamsesnės odos žmonių veido atpažinimas nėra toks tikslus. Šią technologiją plačiai naudoja JAV policijos departamentai, nors nėra gerų duomenų apie tai, kaip ji yra paplitusi. Neįprasta Williamso istorijos dalis yra ta, kad policija prisipažino naudojusi veido atpažinimą jį sulaikant.

Žinia apie šį atvejį buvo paskelbta viešai rugpjūčio pradžioje, o po vasaros protestų, kuriuose daugiausia dėmesio buvo skirta juodaodžių bendruomenių priežiūrai Amerikoje, ji buvo sutikta visos šalies pasipiktinimo. Po poros savaičių paaiškėjo dar vienas neteisėtas juodaodžio areštas Detroite dėl veido atpažinimo technologijos.

Dar prieš tai aktyvistai reikalavo nutraukti projektą Greenlight – viešąją ir privačią miesto iniciatyvą, kuri naudoja veido atpažinimą, siekiant sumažinti nusikalstamumą. Tačiau ne tik projektas tebevyksta: rugsėjo pabaigoje miesto taryba nubalsavo už sutarties tarp Detroito policijos departamento ir jo veido atpažinimo teikėjo „DataWorks Plus“ pratęsimą.

Prieštaravimų metai

Įvykiai Detroite parodo mūsų sudėtingus santykius su veido atpažinimu šiuo metu. Jo naudojimas auga, o kai kuriose srityse technologija tapo neatsiejama. Kitose šalyse, pavyzdžiui, mažmeninėje prekyboje, veido atpažinimas pradedamas diegti su didelėmis ateities viltimis. Daugelis technologijų tiekėjų lažinasi, kad visuomenė imsis vis patogiau naudoti biometrinius duomenis ir netrukus tai taps neatsiejama skaitmeninio gyvenimo dalimi: „Apple“ daug lažinosi dėl to, o dabar milijonai žmonių naudoja savo „Face ID“ sistemą, kad atrakintų savo. iPhone kiekvieną dieną.

Tačiau visuomenė taip pat naujai suvokia veido atpažinimo keliamus pavojus, ypač baudžiamojoje justicijoje. Dabar yra daug daugiau sąmoningumo, daugiau rūpesčių ir daugiau pokalbių nei bet kada anksčiau, o šiais metais buvo priimta daugiau teisės aktų dėl veido atpažinimo nei visais ankstesniais metais kartu paėmus. 2019 m. draudimai arba moratoriumai buvo taikomi šešiuose JAV miestuose, taip pat ir šiemet.

Bus sunku suderinti šiuos įstatymus su pramonės augimu. Tačiau 2020 m. įvykiai duoda tam tikrų užuominų, kaip šie kompromisai gali pasikeisti ateinančiais metais.

Maži žaidėjai, didelė pramonė

Sausio mėnesį „New York Times“. paskelbė tyrimą „ClearviewAI“, nedidelė veido atpažinimo įmonė, kuri vykdė savo algoritmą milijardų nuotraukų, paimtų iš socialinės žiniasklaidos, duomenų bazėje. „ClearviewAI“ sistemą naudojantys policijos skyriai efektyviai pasiekė jūsų „Facebook“ nuotraukas, kad tyrimų metu atitiktų dažnai susiliejusius ar neišsamius policijos vaizdus.

Bendrovė buvo smarkiai kritikuojama ir vėlesnis „BuzzFeed News“ pranešimas parodė, kad sistemą naudoja net 2 200 JAV teisėsaugos agentūrų, taip pat imigracijos ir muitinės tarnybos, Teisingumo departamentas ir mažmenininkai, įskaitant Macy's ir Walmart.

„Clearview“ istorija išties išgąsdino daugybę žmonių – kaip ir turėtų“, – teigia Džordžtauno universiteto Privatumo ir technologijų centro politikos bendradarbis Jamesonas Spivackas. Daugelis susirūpinimą keliančių klausimų yra susiję su šios srities susiskaidymu. Nors didelės įmonės, tokios kaip IBM ir „Microsoft“, yra svarbios jėgos, taip pat yra daug mažesnių privačių įmonių, tokių kaip „ClearviewAI“ ir „NtechLab“, kurios veikia su menka viešoji priežiūra. Pranešimas taip pat atskleidė, kiek mažai visuomenė žinojo apie plačiai paplitusią vyriausybės naudojamą technologiją.

Katalizatorius: rasės protestai

Šios istorijos padidino supratimą apie problemas, tačiau Spivackas teigia, kad protestai „Black Lives Matter“ po George'o Floydo nužudymo buvo didžiausias katalizatorius, paskatinęs priimti įstatymus, ribojančius veido atpažinimo naudojimą Jungtinėse Valstijose. Amerikiečiai staiga pradėjo iš naujo nagrinėti policijos veiklą ir jos priemones, politiką ir kultūrą.

Susirūpinimas kilo po to, kai tyrinėtojai Joy'us Buolamwini ir Timnit Gebru atrado ir dokumentuotas rasinis šališkumas komerciniuose veido atpažinimo produktuose 2018 m., todėl keli miestai ir valstijos paskatino priimti įstatymus tai neleido policijai naudoti veido atpažinimo kartu su kūno kameromis.

Tačiau per didžiausią protesto judėjimą Amerikos istorijoje, aktyvistai nerimavo kad policijos sekimo technologijos būtų naudojamos kerštui. Nuo tada buvo patvirtinta, kad bent Niujorkas , Majamis , ir Vašingtono policijos departamentas s naudojo veido atpažinimą protestuotojams stebėti.

Birželio 1 d. Vašingtone policija panaudojo pipirinius rutuliukus ir ašarines dujas, kad atstumtų protestuotojus Lafajeto aikštėje, kad prezidentas Trumpas galėtų nusifotografuoti netoliese esančioje bažnyčioje. Kilus chaosui, protestuotojas kumščiu smogė policijos pareigūnui. Po kelių dienų pareigūnai socialiniame tinkle „Twitter“ rado vyro nuotrauką ir perleido ją per savo veido atpažinimo sistemą, surado degtuką ir suėmė. Panašiai Majamyje moteris, apkaltinta mėčiusi akmenis į policiją per protestą, buvo suimta remiantis veido atpažinimo atitikmeniu.

Spivackas matė, kad paprasti aktyvistai prieš veido atpažinimą vasarą ir rudenį glaudžiai bendradarbiavo su policijos reformų grupėmis, vadovaujamomis kitų gynimo grupių, tokių kaip Amerikos piliečių laisvių sąjunga. Portlande, Oregone, vienas protestuotojas netgi sukūrė veido atpažinimo sistemą nustatyti anoniminius policijos pareigūnus .

2020 m. buvo pasiūlyti teisės aktai, ribojantys policijos naudojimąsi tokiomis technologijomis, savivaldybių, valstijų ir net federaliniu lygmeniu. Birželio mėnesį demokratai įstatymų leidėjai pristatė įstatymo projektą, kuriuo federalinės teisėsaugos institucijos uždraus naudoti veido atpažinimą. Vermonte gubernatoriaus vykdomuoju įsakymu buvo nustatytas draudimas vyriausybei naudoti šią technologiją. Masačusetse Kembridžo ir Bostono miestai šią vasarą uždraudė technologijas, o valstijos vyriausybė patvirtino veido atpažinimo draudimas viešosioms įstaigoms, įskaitant teisėsaugą, gruodžio mėn.; Šiuo metu yra gubernatorius Charlie Bakeris atsisakė pasirašyti vekselį .

Kalifornija pradėjo savo diskusijas dėl valstijos įstatymų, o San Francisko ir Oklando miestai jau uždraudė teisėsaugai naudoti veido atpažinimo priemones. Liepos mėn. Niujorkas įvedė veidų atpažinimo mokyklose moratoriumą iki 2022 m. Portlande, Oregone, naujas viso miesto draudimas draudžia naudoti technologiją bet kuriai viešai ar privačiai grupei.

Tačiau šis pokytis vyksta ne visur, kaip rodo pakartotinis įsipareigojimas stebėti Detroite. Spivackas spėja, kad rasinės galios dinamika gali turėti įtakos politinei kovai dėl policijos stebėjimo. Jei pažvelgtumėte į daugelį miestų, kurie vieni pirmųjų uždraudė veido atpažinimą, jie paprastai – ne visada, bet paprastai – turtingesni, baltesni, labai progresyvūs, galbūt turintys daugiau politinio kapitalo ir galinčių paveikti įstatymų leidėjus. nei labiau marginalizuotos bendruomenės, sako jis.

Nacionalinė perspektyva?

Tačiau ne visa reakcija buvo priimta teisės aktais. Birželio pradžioje IBM paskelbė, kad nustojo pardavinėti bet kokius savo veido atpažinimo produktus. „Amazon“ ir „Microsoft“ pasekė pavyzdžiu laikinai nutraukdamos sutartis su policijos departamentais. O liepos mėnesį ACLU pateikė bylą ieškinį prieš ClearviewAI už Ilinojaus biometrinės informacijos privatumo įstatymo nesilaikymą – tai pirmasis pilnas teisinis iššūkis įmonei.

„Microsoft“, „Amazon“, IBM ir pramonės grupės, tokios kaip Saugumo pramonės asociacija, ruošiasi kovai. Jie dramatiškai padidino lobizmo dėl veido atpažinimo apimtį nuo 2018 iki 2019 m., o tikimasi, kad 2020 m. bus dar didesnis augimas. Daugelis pasisako už griežtesnį reglamentavimą, bet ne už draudimus. „Amazon“ moratoriumas baigsis birželį, o „Microsoft“ priklauso nuo federalinio įstatymo instituto.

Tuo tarpu ACLU toliau rengia teisės aktų projektus, kuriais siekiama uždrausti šią technologiją. Savo tinklalapyje paskelbtame pareiškime rašoma, kad organizacija kreipiasi į teismus, gatves, įstatymų leidžiamąsias institucijas, miestų tarybas ir net įmonių valdybas, kad apgintų mūsų teises nuo didėjančių šios nereglamentuojamos stebėjimo technologijos pavojų.

Naujosios administracijos prioritetai taip pat formuos reguliavimą 2021 m. ir vėliau. Kaip kandidatė į prezidentus, Kamala Harris cituojamas veido atpažinimo reguliavimas teisėsaugoje, kaip jos policijos reformos plano dalis. Jei administracija sieks priimti federalinius teisės aktus, greičiausiai tai taps nacionaliniu klausimu, todėl mažiau išteklių bus nukreipta į daugiau vietos priežiūros kampanijų. Bet jei ne, greičiausiai kova ir toliau vyks valstijos ir miesto lygmeniu.

paslėpti