Jau kitą savaitę galime pamatyti federalinį veido atpažinimo reglamentą

AP nuotrauka / Johnas Minchillo, failas

Gegužės 10 dieną atvirą laišką atsiuntė 40 advokatų grupių reikalaudamas visam laikui uždrausti dėl JAV policijos „Amazon“ veido atpažinimo programinės įrangos „Rekognition“ naudojimo. Laiškas buvo skirtas Jeffui Bezosui ir Andy Jassy, ​​dabartiniams ir būsimiems bendrovės vadovams, ir buvo išsiųstas likus kelioms savaitėms iki „Amazon“ metų trukmės moratoriumas dėl pardavimo teisėsaugai buvo nustatytas galiojimo laikas.

Laiške priešpastatomas Bezoso ir Jassy palaikymas Black Lives Matter kampanijos dalyviams per rasinio teisingumo protestus praėjusią vasarą po George'o Floydo nužudymo ir pranešimu, kad kitus „Amazon“ produktus teisėsauga naudojo protestuotojams identifikuoti .

Gegužės 17 d., Amazon paskelbė ji pratęstų savo moratoriumą neribotam laikui, prisijungdama prie konkurentų IBM ir Microsoft į savireguliuojamą skaistyklą. Šis žingsnis yra linktelėjimas į politinę grupuočių, kovojančių už technologijų pažabojimą, galią ir pripažinimą, kad pradeda atsirasti naujų teisėkūros kovos pagrindų. Daugelis mano, kad netrukus bus priimti svarbūs federaliniai teisės aktai.

Žmonės išsekę

Praėję metai buvo labai svarbus veido atpažinimui , atskleidžiant technologijos vaidmenį melagingų areštų , ir draudimus, kuriuos nustatė beveik dvi dešimtys miestų ir septynios valstijos visoje JAV. Tačiau tempas jau kurį laiką keičiasi.

2018 m. AI tyrėjai paskelbė Studija lyginant komercinės veido atpažinimo programinės įrangos iš IBM, Microsoft ir Face++ tikslumą. Jų darbas atskleidė, kad technologija šviesesnio gymio vyrus atpažino daug tiksliau nei tamsesnio gymio moteris; IBM sistemos balas buvo prasčiausias – dviejų grupių klaidų lygis skiriasi 34,4 %.

Taip pat 2018 m. ACLU išbandė „Amazon's Rekognition“. ir nustatė, kad 28 Kongreso nariai klaidingai pripažinti nusikaltėliais – tai klaida, neproporcingai paveikianti spalvotus žmones. Organizacija parašė savo atvirą laišką Amazon , reikalaudami, kad bendrovė uždraustų vyriausybės naudojimą naudoti technologiją, kaip ir Kongreso juodaodžių taryba – bet „Amazon“ nepakeitė.

(„Amazon“ atstovas perdavė „MIT Technology Review“ į a paneigimas paskelbtas 2018 m. liepos mėn., kuriame pateikiamos problemos, kurias įmonė turėjo dėl ACLU testo tikslumo ir metodų.)

„Jei ketiname siekti rasinės lygybės baudžiamojo teisingumo sistemoje... vienas iš paprasčiausių ir aiškiausių dalykų, kuriuos galite padaryti, yra nutraukti veido atpažinimo technologijos naudojimą.

Kate Ruane, ACLU

Tačiau per rasinio teisingumo judėjimus prieš policijos brutalumą praėjusią vasarą „Amazon“ nustebino daugelį paskelbdama, kad ji sustabdo policijos naudojimą „Rekognition“, išskyrus federalinės teisėsaugos pareigūnus, tokius kaip ICE. Bendrovės pranešime teigiama, kad ji tikisi, kad pertrauka suteiks Kongresui pakankamai laiko priimti atitinkamas taisykles.

Evanas Greeris yra „Fight for the Future“ – technologijų propagavimo grupės, kuri tiki veido atpažinimo technologijos panaikinimu ir teigia, kad visuomenė vis labiau palaiko jos reguliavimą, direktorius. Ji sako, kad šią savaitę pratęstas moratoriumas rodo, kad „Amazon“ reaguoja į šį didžiulį spaudimą, kurį jie patiria, ne tik dėl veido atpažinimo, ir priduria, kad aš tikrai vertinu didžiulį nuopelnų sukilimams už rasinį teisingumą, kurie įvyko per praėjusius metus. ir pusė.

Politinė realybė

Nors daromas spaudimas dideliems technologijų tiekėjams, realybė tokia, kad dauguma teisėsaugos ir vyriausybės vartotojų neperka veido atpažinimo programinės įrangos iš tokių įmonių kaip „Amazon“. Taigi, nors moratoriumai ir draudimai yra sveikintini advokatų grupėms, jie nebūtinai trukdo naudoti technologijas. Tuo tarpu Kongresas dar nepriėmė jokių federalinių įstatymų dėl veido atpažinimo teisėsaugos, vyriausybės ar komercinėse įstaigose, kurie reguliuotų mažesnius paslaugų teikėjus.

Tačiau kai kurie tikisi, kad netrukus bus priimti federaliniai teisės aktai dėl tiesioginių Kongreso veiksmų, prezidento vykdomojo įsakymo arba būsimų asignavimų ir policijos reformos įstatymų.

Manau, kad geriausiu atveju Kongresas paskelbs moratoriumą jo naudojimui, sako Kate Ruane, vyresnioji ACLU patarėja teisėkūros klausimais. Ji mano, kad naujas naudojimas turėtų būti leistinas tik atlikus daugiau teisėkūros darbų.

Jau buvo pasiūlyta keletas federalinių įstatymų, kurie apribotų prieigą prie veido atpažinimo.

• The Veido atpažinimo ir biometrinių technologijų moratoriumo aktas ragina uždrausti naudoti programinę įrangą bet kokiems federaliniams subjektams ir sulaikyti federalinių dotacijų lėšas iš bet kokios valstijos ir vietos valdžios institucijų, kurios neįgyvendina savo moratoriumo. Jį pasiūlė keturi Kongreso nariai demokratai, o praėjusiais metais jis buvo pristatytas Senatui.
• The George'o Floydo teisingumas policijos įstatyme neleistų naudoti veido atpažinimo kūno kamerose. Įstatymo projektas jau priimtas Atstovų rūmuose ir tikimasi, kad kitą savaitę pasieks Senatą. Prezidentas Bidenas paprašė, kad įstatymas būtų priimtas prieš George'o Floydo mirties metines gegužės 25 d.
• The Ketvirtasis neparduodamas pakeitimo įstatymas 18 senatorių pateiktas dviejų partijų įstatymo projektas apriboja vyriausybę nuo darbo su technologijų tiekėjais, kurie pažeidžia paslaugų teikimo sąlygas. Praktiškai tai iš esmės užkirstų kelią vyriausybei prieiti prie sistemų, kurios užsiima žiniatinklio grandinėjimu, pvz., Clearview AI .

Mutale Nkonde, AI for the People, ne pelno organizacijos, propaguojančios rasinį teisingumą technologijų srityje, įkūrėjas mano, kad iki kitų metų vidurio kadencijos rinkimų greičiausiai sulauksime papildomų federalinių įstatymų.

Manau, kad bus priimti federaliniai teisės aktai, kurie valdys visas algoritmines sistemas, įskaitant veido atpažinimą, sako Nkonde. Manau, kad tai yra politinė realybė.

Nkonde teigia, kad poveikio vertinimų, kuriais technologinės sistemos vertinamos remiantis pilietinėmis teisėmis, koncepcija vis labiau populiarėja politikos ratuose abiejose koridoriaus pusėse.

ACLU lobizuoja Bideno administraciją, kad gautų vykdomąjį įsakymą, ir tai neseniai paskelbė laišką su 40 kitų grupių prašydamas nedelsiant uždrausti vyriausybei naudoti šią technologiją.

Jei ketiname įsipareigoti laikytis rasinio teisingumo, jei ketiname siekti rasinio teisingumo baudžiamojo teisingumo sistemoje, mes įsipareigojame vykdyti tokias reformas, vienas iš paprasčiausių ir aiškiausių dalykų, kuriuos galite padaryti, tai baigti. veido atpažinimo technologijos naudojimas, sako Ruane.

Žmonės tiesiog radikalesni

Tuo tarpu Ruane tikisi, kad savireguliacija išliks vienu veiksmingiausių būdų užkirsti kelią išplėstiniam veido atpažinimo naudojimui. Tikėtina, kad federalinės agentūros, pvz., Būsto, Tėvynės saugumo ir Švietimo departamentai, apsvarstys galimybę įvesti taisykles, uždraudžiančias naudoti technologiją. .

Nkonde yra optimistiškai nusiteikęs, kad moratoriumai išsiplės į draudimus ir nuolatinius įstatymus: manau, kad moratoriumas atrodė toks, koks buvo įmanomas prieš George'o Floydo nužudymą. Po to žmonės tiesiog radikalesni.

Tačiau Greeras perspėja, kad nepaisant veidų atpažinimo skatinimo, teisės aktai, kuriuose daug dėmesio skiriama rasiniam sistemų tikslumui, gali neišspręsti gilesnių problemų. Manau, kad būtų klaida, jei politikos formuotojai tikslumą laikytų vienintele veido atpažinimo problema, kurią reikia spręsti, sako ji. Pramonė iš tikrųjų būtų labai patenkinta sąskaita, kurioje, pavyzdžiui, būtų parašyta: „Jei ketinate parduoti veido atpažinimo sistemą, ji turi būti 99 % tiksli visų rasių ir odos atspalvių žmonėms“.

Net jei šališkumas nėra įtrauktas į sistemą, vis tiek turite šališką policijos sistemą, kuri dabar spartinama ir tarsi pripildoma šia technologija, priduria ji.

Ši istorija buvo atnaujinta, įtraukiant „Amazon“ paneigimą ACLU „Amazon“ atpažinimo sistemos testui 2018 m.

paslėpti