Piliečiai veidų atpažinimo funkciją naudoja nenustatytos policijos atžvilgiu

Naujoji mūsų AI podcast serija „In Machines We Trust“ skirta veido atpažinimui. Pirmoje serijos dalyje Jennifer Strong ir „MIT Technology Review“ komanda tyrinėja netikėtus technologijos naudojimo būdus, įskaitant tai, kaip ji įjungiama policijoje.

Susitinkame:

• Christopheris Howellas, duomenų mokslininkas ir protestuotojas.

Kreditai:

Apie šį epizodą pranešė ir prodiusavo Jennifer Strong, Tate'as Ryanas-Mosley ir Emma Cillekens bei Karen Hao. Mus redaguoja Michaelas Reilly ir Gideonas Lichfieldas.

Nuorašas:

[Skelbimas]

[TR ID]

Stiprus: Kai paskutinį kartą kalbėjome apie veido atpažinimą, įvyko keletas dalykų. Pastebėjome, kad daugėja vietų, kurios apriboja jo naudojimą, o mokyklos ir kiti viešieji pastatai pradėjo naudoti veido ID kaip dalį savo koronaviruso prevencijos planų. Mes netgi naudojame jį gyvūnams, o ne tik veiduose, kurie panašūs į mūsų, pavyzdžiui, šimpanzės ir gorilos, Kinijos technologijų įmonės naudoja jį kiaulėms, o Kanados mokslininkai stengiasi identifikuoti banginius, net grizlius.

Kitaip tariant, daugėja būdų, kaip galime panaudoti šią technologiją, taip pat kyla susirūpinimas dėl to, ar tai įmanoma, jau nekalbant apie gerą idėją. Taigi draudimai naudoti veido ID plečiasi nuo Portlando (Meino valstija) iki Portlando (Oregono valstijoje), kur kitais metais turėtų įsigalioti griežčiausi veido atpažinimo apribojimai šalyje, uždrausdami jį naudoti ne tik policijai, bet ir komerciniams. programos taip pat.

Ratukas: Kolegos, mes šią popietę svarstome du potvarkius, kuriais siekiama uždrausti mūsų Portlando miesto valdžiai ir privatiems subjektams viešose erdvėse naudoti veido atpažinimo technologijas.

Stiprus: Štai Portlando meras Tedas Wheeleris rugsėjo mėnesį pradėjo miesto tarybos posėdį, kuriame buvo priimti šie įstatymų projektai. Kaip ir dauguma dalykų šiomis dienomis, vieši komentarai ir balsavimas vyko „Zoom“.

Ratukas: Portlandas toli gražu nėra antitechnologijų miestas, ir aš noriu tai labai aiškiai pasakyti. Mes nesame nusiteikę prieš technologijas su daugybe vietinių ir nacionalinių technologijų įmonių. Esame vienas greičiausiai augančių technologijų centrų vakarinėje pakrantėje.

Stiprus: Per ateinančias kelias valandas savo nuomonę išsakė teisininkai, programinės įrangos inžinieriai, susirūpinę piliečiai ir verslo lyderiai. Tada, prieš pat balsavimą. Paskutinis asmuo, vietinis duomenų mokslininkas, pakėlė virtualią ranką, kad paklaustų.

Ratukas: Christopher Howell... paskutinis, bet ne mažiau svarbus dalykas, sveiki atvykę.

Howell: Norėčiau išreikšti sąlyginį pritarimą šiam potvarkiui, bet turiu susirūpinimą.

Stiprus: Taip yra todėl, kad jis kuria kažką, kas naudoja veido atpažinimą ne taip įprastu būdu.

Howell: Esu susijęs su veido atpažinimo kūrimu, kad jį iš tikrųjų naudočiau Portlando policijos pareigūnams, nes jie nepripažįsta savęs visuomenei ir daro nusikaltimus. Ar tai taptų neteisėta, jei priimtumėte šį potvarkį?

[Muzika]

Stiprus: Aš esu Jennifer Strong ir per ateinančias kelias savaites mes dar kartą gilinsimės į veido atpažinimo didėjimą. Šioje naujausioje mini serijoje išnagrinėsime, kaip jis naudojamas sportuojant tiek sportininkams, tiek gerbėjams, kaip jis naudojamas mažmeninės prekybos parduotuvėse, net kaip jis naudojamas benamiams aptarnauti. Tačiau pirmiausia viską pradedame pažvelgdami į tai, kaip tai vėl nukreipiama policijai.

[RODYTI ID]

Stiprus: Policijos ir kitų autoritetų anonimiškumas yra apsunkintas tikrai sudėtinga istorija. Yra subtilus privatumo ir atskaitomybės balansas tiek protestuotojų ir policijos pusės.

[Čikagos riaušių garsas.]

Stiprus: 1968 m. Čikagos riaušės nutraukė amerikiečių televizorių visoje šalyje, kai jie žiūrėjo demokratų nacionalinį suvažiavimą, kuris tais metais vyko Čikagoje.

[Čikagos riaušių garsas.]

Stiprus: Protestuotojai demonstravo prieš Vietnamo karą ir prieš Demokratų partiją. Po susirėmimo su policija Granto parke protestuotojai nužygiavo Mičigano prospektu į viešbutį, kuriame buvo apsistoję daugelis suvažiavimo delegatų. 17 minučių Amerika tiesiogiai stebėjo, kaip Ilinojaus nacionalinė gvardija paleido ašarines dujas... kaip policija muša demonstrantus.

[Čikagos riaušių garsas. „Visas pasaulis žiūri“]

Stiprus: Policija nenešiojo vardinių lipdukų ir tai iš tikrųjų gana įprasta, kai policija susiduria su protestuotojais. Kartais tai legalu, kartais neteisėta, o kartais netgi privaloma saugumo sumetimais, kaip šią vasarą Bafale, Niujorke.

Reporteris: Bafalo policijos komisaras sako, kad pareigūnams ant uniformų nešioti ženklelio numerius, o ne pavardes, buvo nuspręsta jo nuspręsti.

Komisijos narys: Didėjo susirūpinimas dėl pareigūnų ir jų šeimos narių priekabiavimo. Kad pareigūnai galėtų dirbti savo darbą be baimės, tuomet priėmiau sprendimą.

Stiprus: Tačiau kai tai atsitiks, piliečiai ir aktyvistai atsitraukia. Daugelis teigia, kad tai suteikia policijai dar daugiau galių, nei ji jau turi... nes tampa beveik neįmanoma jų patraukti atsakomybėn.

Pašnekovas: Mums reikia, kad mūsų taryba stotų ir pasisakytų už 255 000 žmonių, kuriuos atstovaujate, ir skatintų bei reikalautų, kad šios policijos pajėgos pakeistų politiką, o ne galvotų tik apie keliasdešimt pareigūnų, kurie buvo persekiojami ir kurie galėtų būti apsaugoti pagal dabartinį esamą įstatymą. .

Stiprus: Tačiau dar gerokai prieš šios vasaros įvykius žmonės bandė nustatyti nenustatytų policijos pareigūnų tapatybę. Jie naudojo nuotraukas iš protestų, žvalgėsi socialinėje žiniasklaidoje, ieškojo informacijos internete, netgi vogė asmeninę informaciją. Kaip ir įsilaužėlių kolektyvo – vadinamo Anoniminiu – atveju. Jis žinomas dėl to, kad prisijungia prie „Occupy Wall Street“ protestų ir trumpam panaikino Niujorko vertybinių popierių biržos svetainę. Ta pati grupė vėliau nutekino privačią informaciją, kurią pavogė iš policijos ir vyriausybės svetainių, įskaitant policijos pareigūnų namų adresus.

Išdaigos skambutis: Jūs pasiekėte Baldwin apygardos šerifo biurą… [žiedas]

Stiprus: Šiame pokštų skambutyje jie prisipažįsta už įsilaužimą.

[Ištraukos iš pokšto skambučio]

Stiprus: Galiu prisiminti, kad 2014 m., kai Rusija aneksavo Krymą, demaskuoti savo jėgą prieš kitus JAV nebūdinga. Tuo metu aukščiausi pareigūnai, įskaitant prezidentą Vladimirą Putiną, ne kartą neigė, kad tie kariai yra rusiški.

Truputį : Karių nėra. Bent jau nėra rusų kariuomenės.

Stiprus: Tai Rusijos ambasadorius ES kalba žurnalistams.

Ambasadorius: JAV, laikydamasi tradicijos kištis į kitas šalis ir siųsti karius į užsienį, gali elgtis pagal savo mentalitetą... Sakyčiau. Bet tai nėra Rusijos kišimosi atvejis.

Stiprus: Bet buvo. Suderinusi nuotraukas, galbūt pasitelkusi veido atpažinimo funkciją, Ukrainos vyriausybė nustatė, kad kariuomenė iš tikrųjų buvo susieta su Rusijos kariuomene. Ir jie išleido nuotraukas kaip įrodymą. Vėliau Putinas taip pat pripažino, kad kariai iš tikrųjų buvo rusai.

Putino vertimas: Žinoma, Rusijos kariškiai palaikė Krymo savisaugos pajėgas. Jie veikė pilietiškai, kaip jau sakiau, bet ryžtingai ir profesionaliai.

[Muzika]

Stiprus: Dabar protestuotojai vis dažniau bando „Face I-D“ nukreipti atgal į policiją – nustatyti pareigūnus, kurie naudoja pernelyg didelę jėgą. Įskaitant Honkongą, kur praėjusiais metais naujienų srautuose dominavo dramatiški protestuotojų ir policijos susirėmimų vaizdai, kuriuose policija šaudo gyvomis kulkomis, o protestuotojai atakuoja pareigūnus. Tai „New York Times“ reporteris Paulas Mozuras, kalbantis per visuomeninę televiziją.

Mozur: Protestams tęsiantis, o policijai ir Honkongo gyventojams savaitė po savaitės kovoja, veidas tapo ginkluotas, o pati tapatybė tam tikra prasme yra ginkluota. Žinote, protestuotojai išeis, o policija bandys užfiksuoti jų vaizdus vaizdo įraše, tada grįš ir atpažins juos per visą socialinę žiniasklaidą ir internetinę medžiagą, o tada atvirkščiai. Matėme, kad policija iš tikrųjų nusiima savo ženklelius, todėl dabar protestuotojai tą patį daro su policija, bandydami grįžti ir naudotis socialine žiniasklaida bei išsiaiškinti, kuri policija ką daro. Vienas protestuotojas, ypač šis vaikinas Colinas Cheungas, kurį radome, sukūrė veido atpažinimo įrankį, kad pabandytų atpažinti policiją... ir jis iš tikrųjų neišleido produkto, bet sako, kad dėl to policija nusitaikė į jį.

Stiprus: Cheungas buvo suimtas netrukus po to, kai jis paskelbė apie įrankį „Facebook“... tačiau panašios pastangos vyksta ir kitose vietose, įskaitant Portlandą, Oregone.

Howell: Aš naudoju lygiai tą pačią technologiją, kurią jie naudoja mums. Ir tai nėra taip, kad aš bandau priversti žmones sutramdyti. Turiu galvoje, kad tai yra skirta pareigūnams, kurie iš esmės pažeidžia įstatymus panaudodami jėgą.

Stiprus: Christopheris Howellas yra duomenų mokslininkas ir protestuotojas.

Howell: Ir aš tiesiog norėjau patekti į įrašą. Ei, yra dar vienas būdas tai panaudoti. // Ir iš tikrųjų tai labiau susiję su spaudimu jiems identifikuoti save, o ne mums tai daryti.

Stiprus: Jo liudijimas Portlando miesto taryboje apie šį įrankį, su kuriuo jis dirba, paskatino jo projektą paskelbti „The New York Times“. Nuo tada jis sulaukė nemažo dėmesio, kaip ir Portlando mero, kuris pavadino projektą šiurpiu, reakcija.

Howell: Baisu leisti jiems išeiti ir ašaroti žmones naktis po nakties // o aš, iš tikrųjų, man tebuvo tik kažkoks protą sukrečiantis momentas, pavyzdžiui, baisu, kad šie vaikinai neturi savo vardų. Žinote, tas kažkas gali tiesiog apsirengti kaip policininkas, kurį pažįstate [juokiasi]

Stiprus: Jis sako, kad projektą pradėjo iš dalies tik norėdamas pamatyti, kaip jis veiks.

Howell: Aš turiu galvoje, ten yra neabejotinas technologinis smalsumas... ir kažkas, ką aš galiu padaryti, kai jau vėlus vakaras ir nemalonu žiūrėti šiuos dalykus, naujienas arba įeiti į Twitter ir pamatyti žmonių, visų vaizdo įrašus apie protestus. ir gerai, ką aš galiu padaryti? …ir galiausiai norėčiau, kad tai nebūtų būtina. Manau, kad jie turėtų nešioti savo vardus didelėmis raidėmis, kad mums nereikėtų naudoti policininkų veido atpažinimo bandydami išsiaiškinti, kas jie yra.

Stiprus: Galimybė nustatyti pareigūno tapatybę reiškia ne tik žinoti, ar kas nors iš tikrųjų toks yra... Labai sunku pateikti skundą prieš ką nors, nežinant, kas tas asmuo.

Howell: Viena iš priežasčių, kodėl tai pradėjau, buvo ta, kad ieškiniuose negalima pavadinti policininko, kuris mane pastūmėjo. Jūs turite žinoti, kas tai yra. Jie tiesiog pasakys: na, mes nežinome, kas tai buvo. Taigi jūs neturite kam paduoti į teismą ir bandydami gauti įrašus apie tai, ką konkrečiai padarė pareigūnai, jie neleis jums to žvejoti. // Tu turi tai žinoti, jei tu man pavaizduoji, žinai, štai šis policininkas smogė kažkam lazda, aš noriu, ir mes išsiaiškinsime, pamatysi jo veidą. Taigi mes išsiaiškinsime, kas tai yra, kaip tai padaryti? Ir iš pradžių labiau galvojau apie atvirkštinę vaizdų paiešką duomenų bazėje. Aš tiesiog surinksiu visas nuotraukas, kurias galėsiu, ir galėsime jas susieti, kad galėtume pasakyti, kad tai yra tas pats asmuo. Ir tada aš tarsi supratau, kad galiu padaryti geriau.

Stiprus: Jis suprato, kad gali sukurti veido ID įrankį, naudodamas pareigūnų vaizdus iš interneto.

Howell: Taigi aš pradėjau žiūrėti į jų nuotraukas, kuriose jie yra identifikuoti, arba naujienas, žinote, grįždamas toliau ir gauti panašius naujienų straipsnius.

Stiprus: Projektas yra techniškai lengvesnis nei sukurti sistemą, skirtą bet kam identifikuoti.

Howell: Mes žinome, kas yra policija, žinote, jos nėra, neturėtų būti žmonių, kurie nėra policijos pareigūnai. Taigi, jei galite gauti visas jų nuotraukas ir tai yra tikras iššūkis, bet tada jums gali kilti ta prasme ne tokia sudėtinga matematinė problema, kurią būtų galima nustatyti, gerai, žinome, kad šis asmuo nepatenka į šį rinkinį. Sužinokime, kuris iš jų...

Stiprus: Jis sako, kad iki šiol surinko tūkstančius nuotraukų... daugiausia rankiniu būdu iš „Twitter“ ir naujienų straipsnių, vidutiniškai apie 15–20 kiekvieno atpažinto pareigūno.

Howell: Daugelis pradinių vaizdų buvo iš „Twitter“. Daug kas man tekdavo į naujienų straipsnius. // Turiu galvoje, eismo įvykis, vienas yra, žinote, naujienos yra toks puikus pavyzdys. Nes radau krūvą tokių. Arba kaip bendruomenės šašlykinė ir ten yra uniformuoti pareigūnai ir juos įvardija.

Stiprus: Tai nėra lygiai tokio paties masto kaip policijos naudojamos veido atpažinimo sistemos...

Howell : Šiuo metu visa tai darau naudodamas Python scenarijų – žinote, visa tai mano nešiojamame kompiuteryje.

Stiprus: ...jie dažniausiai yra mokomi milijonų ar milijardų nuotraukų rinkiniuose.

Howell: Kadangi manau, kad tikslumas yra svarbus, o vaizdų skaičius yra pakankamai mažas, kad jei bandyčiau įdėti savo veidą, nenorėčiau gauti kito Chriso Howello.

Stiprus: Tačiau vaizdų užtenka, kad atrodo, kad tai pavyks. Jis sako, kad jo įrankis jau buvo panaudotas siekiant nustatyti pareigūno tapatybę byloje, kuri nukreipta į teismą.

Howell: Kažkas atnešė man nuotrauką, kurios neradau, ir pasakė: padėk man, žinai, naudokis savo sistema ir pasakyk, kas joje parašyta. Ir ji jau žinojo, kas, jos manymu, tai buvo, bet man nesakė. Ir tada geriausias rezultatas buvo toks, kokio ir tikėtasi.

Stiprus: Bet kas gali spėlioti, kur tai bus toliau, nors jis gali įsivaizduoti dieną, kai jis galėtų būti naudojamas bendradarbiaujant su miestu.

Howell: Galėčiau pamatyti ateitį, galbūt po metų, kai viskas bus šiek tiek kitaip, kai miestas kažką panašaus padaro prieinamą ir priglobia pats bei priverčia juos nufotografuoti krūvą nuotraukų, kad galėtume turėti gerai apmokytą dalyką. Taigi kaip piliečių atsiliepimų dalykas. Ir tai nebūtinai turi būti neigiami dalykai, bet taip, kad jį būtų galima panaudoti ir skundams. Turiu galvoje, dalis manęs mano, kad būtų naudinga bendradarbiauti su pačiomis vyriausybinėmis agentūromis sakydami: „Ei, mes norime būti atskaitingi“. Nemanau, kad tai labai realu 2020 m., bet manau, kad tai gali būti visai netoli! [juokiasi]

Stiprus: Kažkas, ko jis nenori, yra padaryti jį atviru.

Howell: Nemanau, kad niekam iš tikrųjų būtų gera idėja, kad tai tiesiog būtų kaip vieša svetainėje. Pagalvokite, kad tai yra reikalavimas, kad viskas susiklostytų ne taip, kaip iš tikrųjų akivaizdūs dalykai, kuriuos galite turėti, žmonės, žinote, padirbinėti daiktus ar tyčia įdėti klaidinančių nuotraukų...

[Muzika]

Stiprus: Portlando draudimai naudoti I-D įsigalios sausio mėnesį, bet Howell projektas? Tai neturės įtakos. Valstybinės mokyklos, religinės institucijos, netgi tai, kaip oro uoste naudojamas veido atpažinimas, pavyzdžiui, kaip oro linijos, tokios kaip Delta, įlaipina savo keleivius. Tai taip pat neturės įtakos. Vietos valdžios institucijos negalės ja naudotis. Ir jis nebus leidžiamas daugumoje viešųjų erdvių ar privačių erdvių, kurios yra atviros visuomenei, pavyzdžiui, prekybos centre. Vietos policijai taip pat nebus leista naudoti šios technologijos, nors žmonės savo privačiuose namuose, pavyzdžiui, Christopheris Howellas, galės. Draudimai taip pat netaikomi teisėsaugai valstijos ar federaliniu lygiu.

Tam tikra prasme šios stebėjimo technologijos naudojimas tampa savotiškomis pasaulinėmis ginklavimosi varžybomis tarp visuomenės ir valdžios atstovų, kurie abu tikisi nulupti anonimiškumo dangą ir paskatinti gerą elgesį. Sunku suprasti, kas gali būti laimėtojas, bet neabejotinai pralaimės privatumas.

Kitame epizode…

Ištrauka : Tai nėra trauma, kai kas nors įeina į įstaigą ir sako: taip, tu tikrai gali ateiti, bet leiskite man paimti jūsų pirštų atspaudus.

Stiprus: Mes žiūrime į žingsnį naudoti veido atpažinimą viešuosiuose būstuose ir benamių prieglaudose.

Ištrauka : Veido atpažinimas yra švelnesnis emociškai, nes jis yra pasyvus, jo neliečia ir galite jį užfiksuoti greičiau ir nėra perdavimo rizikos.

Stiprus: Apie šį epizodą pranešiau ir prodiusavau aš, Tate'as Ryanas-Mosley, Karen Hao ir Emma Cillekens. Mus redaguoja Michaelas Reilly ir Gideonas Lichfieldas.

Ačiū, kad klausotės, aš esu Jennifer Strong.

[TR ID]

paslėpti