Aštuoni biometrinių technologijų reguliavimo atvejų tyrimai rodo kelią į priekį

Amba Kak, Niujorke įsikūrusio AI dabar instituto pasaulinės strategijos ir programų direktorius

Amba Kakas „AI Now“ sutikimu



Amba Kak mokėsi teisės mokykloje Indijoje, kai 2009 m. šalyje buvo pradėtas įgyvendinti Aadhaar projektas. Nacionalinė biometrinė tapatybės nustatymo sistema, sukurta kaip išsami tapatybės programa, siekė surinkti visų gyventojų pirštų atspaudus, rainelės nuskaitymus ir nuotraukas. Kakas prisimena, kad neilgai trukus pradėjo plisti pasakojimai apie jo niokojančias pasekmes. Netikėtai išgirdome pranešimus apie tai, kaip fiziniai darbininkai, dirbantys rankomis – kaip jų pirštų atspaudai neveikia sistemoje, o tada jiems buvo uždrausta prieiga prie būtiniausių reikmenų, sako ji. Mes iš tikrųjų turėjome mirčių nuo bado Indijoje kurios buvo susietos su kliūtimis, kurias sukūrė šios biometrinės tapatybės nustatymo sistemos. Taigi tai buvo tikrai esminis klausimas.

Tie atvejai paskatino ją ištirti biometrines sistemas ir būdus, kaip įstatymai galėtų priversti jas atsakyti. Rugsėjo 2 d. Kakas, kuris dabar yra Niujorke įsikūrusio AI dabar instituto pasaulinės strategijos ir programų direktorius, paskelbė nauja ataskaita išsamiai aprašomi aštuoni atvejų tyrimai, kaip visame pasaulyje reguliuojamos biometrinės sistemos. Jie apima miesto, valstijos, nacionalines ir pasaulines pastangas, taip pat kai kurias iš ne pelno organizacijų. Tikslas yra išsiugdyti gilesnį supratimą apie tai, kaip skirtingi metodai veikia arba neatitinka. Kalbėjausi su Kak apie tai, ko ji išmoko ir kaip turėtume judėti į priekį.



Šis interviu buvo suredaguotas ir sutrumpintas siekiant aiškumo.



Kas paskatino šį projektą?

Biometrinė technologija yra daugėja ir normalizuojasi , tiek valdžios srityse, tiek mūsų asmeniniame gyvenime. Protestai, naudojant veido atpažinimą, buvo stebimi vien šiais metais Honkonge, Delyje, Detroite ir Baltimorėje. Biometrinės tapatybės nustatymo sistemos, apie kurias kalbama mažiau, kai biometriniai duomenys naudojami kaip sąlyga norint pasiekti jūsų gerovės paslaugas, taip pat paplito mažas ir vidutines pajamas gaunančiose šalyse Azijoje, Afrikoje ir Lotynų Amerikoje.

Tačiau įdomu tai, kad atstūmimas prieš šias sistemas taip pat yra didžiausias. Aplink jį propaguojanti veikla sulaukia daugiau dėmesio nei bet kada anksčiau. Taigi kyla klausimas: kur yra teisė ir politika? Štai čia ir atsiranda šis sąvadas. Šiame pranešime bandoma atskleisti, ko galime pasimokyti iš šios patirties, kai atrodo, kad vyriausybės ir advokatų grupės labai trokšta didesnio reguliavimo.

Kokia dabartinė biometrinio reguliavimo padėtis pasaulyje? Kiek brandžios teisinės sistemos, skirtos valdyti šią besiformuojančią technologiją?

Pasaulyje yra apie 130 šalių, kuriose galioja duomenų apsaugos įstatymai. Beveik visi apima biometrinius duomenis. Taigi, jei mes tiesiog užduodame klausimą, ar egzistuoja įstatymai, reglamentuojantys biometrinius duomenis, atsakymas būtų daugumoje šalių.



Tačiau pasigilinus, kokie yra duomenų apsaugos įstatymo apribojimai? Duomenų apsaugos įstatymas geriausiu atveju gali padėti reguliuoti, kada naudojami biometriniai duomenys, ir užtikrinti, kad jie nebūtų naudojami tikslams, kuriems nebuvo duotas sutikimas. Tačiau tokie klausimai kaip tikslumas, diskriminacija – šioms problemoms vis dar buvo skiriama labai mažai teisinio dėmesio.

Kita vertus, kaip visiškai uždrausti šią technologiją? Matėme, kad tai sutelkta JAV miesto ir valstijos lygiu. Manau, kad žmonės kartais pamiršta, kad didžioji dalis šios teisėkūros veiklos buvo sutelkta į viešumą, o konkrečiau – į policijos naudojimą.

Taigi turime įvairių duomenų apsaugos įstatymų, kurie suteikia tam tikrų apsaugos priemonių, bet iš esmės yra riboti. Ir tada mes sutelkiame šiuos visiškus moratoriumus vietinio miesto ir valstijos lygmeniu JAV.



Kokios buvo bendros temos, kurios išryškėjo iš šių atvejų tyrimų?

Man tai buvo aiškiausias skyrių apie Indiją pateikė Nayantara Ranganathan ir skyrių apie Australijos veido atpažinimo duomenų bazę Monique Mann ir Jake'as Goldenfeinas. Abi šios yra didžiulės centralizuotos būsenos architektūros, kurių esmė yra pašalinti techninius silosus tarp skirtingų valstybinių ir kitų rūšių duomenų bazių ir užtikrinti, kad šios duomenų bazės būtų centralizuotai susietos. Taigi kuriate šią monstrišką centralizuotą, centralizuotai susietą biometrinių duomenų architektūrą. Tada, kaip šios didžiulės problemos bandytojas, sakote: „Gerai, mes turime duomenų apsaugos įstatymą, kuriame teigiama, kad duomenys niekada neturėtų būti naudojami tokiais tikslais, kurių nebuvo įsivaizduojama ar nenumatyta. Tačiau tuo tarpu jūs keičiate lūkesčius to, ko galima tikėtis. Šiandien duomenų bazė, kuri buvo naudojama baudžiamosios justicijos kontekste, dabar naudojama imigracijos kontekste.

Pavyzdžiui, [JAV] ICE dabar naudoja arba bando naudoti DMV duomenų bazes įvairiose valstybėse vykdydama imigracijos vykdymo procesą. Taigi tai yra duomenų bazės, sukurtos civiliniame kontekste, ir jie bando jas naudoti imigracijai. Panašiai Australijoje turite šią milžinišką duomenų bazę, kurioje yra vairuotojo pažymėjimų duomenys, kuri dabar bus naudojama neribotam baudžiamosios justicijos tikslams, o vidaus reikalų skyrius turės visišką kontrolę. Ir panašiai Indijoje jie sukūrė įstatymą, tačiau įstatymas iš esmės atidavė didžiąją diskreciją institucijai, kuri sukūrė duomenų bazę. Taigi manau, kad iš šių trijų pavyzdžių man tampa aišku, kad jūs turite skaityti įstatymą platesnių vykstančių politinių judėjimų kontekste. Jei turėčiau apibendrinti platesnę tendenciją, tai visų valdymo aspektų, nuo baudžiamosios teisenos iki imigracijos iki gerovės, pakeitimas saugumu, ir tai sutampa su siekiu naudoti biometrinius duomenis. Tai vienas.

Antroji – ir tai yra pamoka, kurią nuolat kartojame – sutikimas, kaip teisinė priemonė, yra labai pažeistas, ir jis tikrai pažeistas biometrinių duomenų kontekste. Bet tai nereiškia, kad tai nenaudinga. Woody Hartzogas skyrius apie Ilinojaus BIPA [Biometrinės informacijos privatumo įstatyme] sakoma: Puiku, kad sulaukėme kelių sėkmingų ieškinių prieš įmones, naudojančias BIPA, paskutinį kartą su Clearview AI. Tačiau negalime tikėtis, kad sutikimo modelis sukels struktūrinius pokyčius. Mūsų sprendimas negali būti: vartotojas žino geriausiai; vartotojas pasakys „Facebook“, kad nenori, kad būtų renkami jo veido duomenys. Galbūt vartotojas to nedarys, o našta neturėtų tekti asmeniui priimti šiuos sprendimus. Tai yra kažkas, ko privatumo bendruomenė tikrai išmoko sunkiai, todėl tokie įstatymai kaip GDPR remiasi ne tik sutikimu. Taip pat yra griežtų gairių taisyklių, kurios sako: jei surinkote duomenis dėl vienos priežasties, negalite jų naudoti kitam tikslui. Ir jūs negalite surinkti daugiau duomenų, nei būtina.



Ar buvo kuri nors šalis ar valstybė, kuri, jūsų nuomone, buvo ypač perspektyvi savo požiūriu į biometrinių duomenų reguliavimą?

Taip, nenuostabu, kad tai nėra šalis ar valstybė. Iš tikrųjų tai yra Tarptautinis Raudonojo Kryžiaus komitetas [ICRC]. Tome Benas Hayesas ir Massimo Marelli – jie abu iš tikrųjų yra ICRC atstovai – parašė atspindintį kūrinį apie tai, kaip jie nusprendė, kad jie turi teisėtą interesą naudoti biometrinius duomenis skirstant humanitarinę pagalbą. Tačiau jie taip pat pripažino, kad yra daug vyriausybių, kurios spaudžia jas gauti prieigą prie tų duomenų, kad galėtų persekioti šias bendruomenes.

Taigi jie susidūrė su labai realia mįsle ir ją išsprendė sakydami: norime sukurti biometrinių duomenų politiką, kuri sumažintų faktinį žmonių biometrinių duomenų saugojimą. Taigi, ką mes padarysime, tai turėsime kortelę, kurioje būtų saugiai saugomi kieno nors biometriniai duomenys. Jie gali pasinaudoti ta kortele, kad gautų humanitarinę gerovę arba teikiamą pagalbą. Bet jei jie nuspręs tą kortelę išmesti, duomenys niekur kitur nebus saugomi. Politika iš esmės nusprendė nekurti biometrinės duomenų bazės su pabėgėlių ir kitų asmenų, kuriems reikia humanitarinės pagalbos, duomenimis.

Man platesnė to pamoka yra suvokimas, kas yra problema. Šiuo atveju problema buvo ta, kad duomenų bazės kūrė medaus puodą ir realią riziką. Taigi jie sugalvojo ir techninį sprendimą, ir būdą žmonėms atsiimti arba ištrinti savo biometrinius duomenis su visa agentūra.

Kokias pagrindines spragas matote biometrinio reguliavimo požiūriu?

Geras pavyzdys šiam klausimui iliustruoti yra toks: kaip įstatymas sprendžia visą šį šališkumo ir tikslumo klausimą? Per pastaruosius kelerius metus matėme tiek daug pamatinių tyrimų tokių žmonių kaip Joy Buolamwini, Timnit Gebru ir Deb Raji, kurie egzistenciškai meta iššūkį: ar šios sistemos veikia? Prieš ką jie dirba? Ir net kai jie išlaiko šiuos vadinamuosius tikslumo testus, kaip jie iš tikrųjų veikia realiame gyvenime?

Duomenų privatumas nesusijęs su tokio tipo problemomis. Taigi tai, ką mes matėme dabar – ir tai daugiausia yra teisėkūros pastangos JAV – yra įstatymų projektai, įpareigojantys atlikti veido atpažinimo sistemų tikslumą ir nediskriminavimo auditą. Kai kurie iš jų sako: pristabdome veido atpažinimo naudojimą, tačiau viena iš sąlygų, kad būtų panaikintas šis moratoriumas, yra išlaikyti šį tikslumo ir nediskriminavimo testą. Ir testai, kuriuos jie dažnai nurodo, yra techninių standartų testai, tokie kaip NIST veido atpažinimo pardavėjo testas.

Bet kaip aš ginčijuosi tuo pirmas skyrius , šie testai tobulinami; buvo įrodyta, kad jų našumas yra prastesnis realiame gyvenime; ir, svarbiausia, jų gebėjimas įveikti platesnį diskriminacinį šių sistemų poveikį, kai jos taikomos praktikoje, yra ribotos. Taigi aš tikrai nerimauju dėl to, kad šie techniniai standartai taps tam tikru žymimuoju langeliu, kurį reikia pažymėti, o tai ignoruoja arba užmaskuoja kitų formų žalą, kurią patiria šios technologijos, kai jas taiko.

Kaip šis sąvadas pakeitė jūsų požiūrį į biometrinį reguliavimą?

Svarbiausias dalykas, kurį tai padarė man, yra negalvoti apie reguliavimą tik kaip įrankį, kuris padės apriboti šias sistemas. Tai gali būti įrankiu atsispirti šioms sistemoms, bet taip pat gali būti įrankiu normalizuoti arba įteisinti šias sistemas. Tik pažvelgę ​​į pavyzdžius, pavyzdžiui, Indijoje ar Australijoje, pradedame žiūrėti į teisę kaip į daugialypę priemonę, kurią galima panaudoti įvairiais būdais. Šiuo metu, kai mes tikrai norime pasakyti, ar šios technologijos apskritai turi egzistuoti? įstatymas, o ypač silpnas reglamentavimas, tikrai gali būti ginkluotas. Tai buvo geras priminimas man. Turime būti atsargūs nuo to.

Šis pokalbis man neabejotinai buvo atskleidžiamas, nes kaip žmogus, kuris nušviečia technologijų panaudojimą, dažnai manęs klausia: koks yra sprendimas? ir aš visada sakau: reglamentas. Bet dabar jūs sakote, kad reguliavimas taip pat gali būti ginkluotas.

Tikra tiesa! Tai verčia mane galvoti apie šias grupes, kurios anksčiau dirbo su smurtu šeimoje Indijoje. Ir prisimenu, jie sakė, kad dešimtmečius trukusios kovos už smurtą šeimoje išgyvenusių asmenų teises pabaigoje vyriausybė pagaliau pasakė: „Gerai, mes priėmėme šį įstatymą“. Tačiau po to niekas nepasikeitė. Pamenu, jau tada galvojau, kartais šloviname įstatymų priėmimo idėją, bet kas bus po to?

Ir tai yra geras posūkis – net kai skaičiau Clare Garvie ir Jameson Spivack skyrių apie draudimus ir moratoriumus , jie nurodo, kad dauguma šių draudimų galioja tik vyriausybės naudojimui. Vis dar egzistuoja ši didžiulė kelių milijardų dolerių vertės privati ​​pramonė. Taigi jis vis tiek bus naudojamas Taylor Swift koncerte labai panašiai, kaip ir policininkai: neleisti žmonėms patekti, diskriminuoti žmones. Tai nesustabdo mašinos. Tai tam tikram teisiniam įsikišimui prireiktų precedento neturinčio advokacijos. Nemanau, kad neįmanoma turėti to vadinamojo visiško draudimo, bet mes to dar nesame. Taip, mes turime būti atsargesni ir kritiškesni dėl to, kaip suprantame teisės vaidmenį.

Ką apie kompendiumą suteikėte vilčių dėl ateities?

Tai visada toks sunkus klausimas, bet taip neturėtų būti. Tikriausiai buvo Rashida Richardson ir Stephanie Coyle skyrius . Jų skyrius buvo beveik kaip etnografija apie šią Niujorko tėvų grupę, kuri labai stipriai jautė tai, kad jie nenorėjo, kad jų vaikai būtų stebimi. Ir jie sakė: „Mes eisime į kiekvieną susitikimą, nors jie to nesitiki“. Ir mes sakysime, kad su tuo turime problemų.

Buvo tikrai ramu sužinoti apie istoriją, kai tėvų grupė visiškai pakeitė diskursą. Jie pasakė: nekalbėkime apie tai, ar biometriniai duomenys ar stebėjimas yra būtini. Pakalbėkime apie tikrąją to žalą mūsų vaikams ir apie tai, ar tai yra geriausias pinigų panaudojimas. Tada senatorius paėmė tai ir pristatė įstatymo projektą, o tik rugpjūtį Niujorko valstijos senatas priėmė šį įstatymo projektą. Aš švenčiau su Rashida, nes man patiko, taip! Tokių istorijų pasitaiko! Tai labai glaudžiai susijusi su advokacijos istorija.

paslėpti