Kaip neleisti AI atpažinti jūsų veido asmenukėse

Ponia Tech | Atskleiskite purslą

Asmeninių nuotraukų įkėlimas į internetą gali jaustis tarsi paleidimas. Kas dar turės prieigą prie jų, ką su jais darys ir kokius mašininio mokymosi algoritmus jie padės išmokyti?

Bendrovė Clearview jau padarė tiekė JAV teisėsaugos institucijas su veido atpažinimo įrankiu, parengtu pagal milijonų žmonių nuotraukas, iškrapštytas iš viešojo interneto. Bet greičiausiai tai buvo tik pradžia. Kiekvienas, turintis pagrindinius kodavimo įgūdžius, dabar gali sukurti veido atpažinimo programinę įrangą , o tai reiškia, kad yra daugiau galimybių nei bet kada anksčiau piktnaudžiauti technologijomis – nuo ​​seksualinio priekabiavimo ir rasinės diskriminacijos iki politinės priespaudos ir religinio persekiojimo.

Susijusi istorija

Taip praradome veidų kontrolę

Didžiausias kada nors atliktas veido atpažinimo duomenų tyrimas rodo, kaip gilaus mokymosi augimas paskatino privatumo praradimą.

Nemažai dirbtinio intelekto tyrinėtojų traukiasi atgal ir kuria būdus, kaip užtikrinti, kad AI negalėtų mokytis iš asmeninių duomenų. Du iš naujausių bus pristatyti šią savaitę ICLR, pirmaujančioje AI konferencijoje.

Man nepatinka, kai žmonės atima iš manęs dalykus, kurių jie neturėtų turėti, sako Emily Wenger iš Čikagos universiteto, kuri sukūrė viena iš pirmųjų priemonių tai padaryti , pavadinta Fawkes, su kolegomis praėjusią vasarą: Manau, daugelis iš mūsų turėjo panašią idėją tuo pačiu metu.

Apsinuodijimas duomenimis nėra nauja. Veiksmai, pvz., įmonių turimų duomenų apie jus ištrynimas arba taršių duomenų rinkinių svarstymas naudojant netikrus pavyzdžius, gali apsunkinti įmonių mokymą tikslių mašininio mokymosi modelių. Tačiau šios pastangos paprastai reikalauja kolektyvinių veiksmų, kuriuose dalyvauja šimtai ar tūkstančiai žmonių, kad būtų pasiektas poveikis. Skirtumas nuo šių naujų metodų yra tas, kad jie veikia su vieno asmens nuotraukomis.

Šią technologiją asmuo gali naudoti kaip raktą savo duomenims užrakinti, sako Sarah Erfani iš Melburno universiteto Australijoje. Tai nauja priekinė gynyba, skirta apsaugoti žmonių skaitmenines teises AI amžiuje.

Slepiasi aiškiai matomoje vietoje

Dauguma įrankių, įskaitant Fawkes, laikosi to paties pagrindinio požiūrio. Jie atlieka nedidelius vaizdo pakeitimus, kuriuos sunku pastebėti žmogaus akimis, tačiau išmeta dirbtinį intelektą, todėl jis klaidingai nustato, kas ar ką mato nuotraukoje. Ši technika yra labai artima tam tikram priešiškam puolimui, kai nedideli įvesties duomenų pakeitimai gali priversti giliai besimokančius modelius padaryti didelių klaidų.

Suteikite Fawkes'ui daugybę asmenukių ir tai pridės vaizdo taškų pikselių lygio trikdžių, neleidžiančių naujausioms veido atpažinimo sistemoms identifikuoti, kas yra nuotraukose. Skirtingai nuo ankstesnių būdų, kaip tai padaryti, pavyzdžiui, naudojant dirbtinį intelektą klaidinančius veido dažus, vaizdai žmonėms lieka nepakitę.

Wenger ir jos kolegos išbandė savo įrankį su keliomis plačiai naudojamomis komercinėmis veido atpažinimo sistemomis, įskaitant „Amazon“ AWS Rekognition, „Microsoft Azure“ ir „Face++“, kurias sukūrė Kinijos įmonė „Megvii Technology“. Atliekant nedidelį eksperimentą su 50 vaizdų duomenų rinkiniu, Fawkesas buvo 100% veiksmingas prieš juos visus, neleisdamas modeliams, išmokytiems pritaikyti žmonių atvaizdus, ​​vėliau atpažinti tų žmonių atvaizdus naujuose vaizduose. Apdoroti treniruočių vaizdai neleido įrankiams tiksliai atvaizduoti tų žmonių veidų.

Susijusi istorija

NYPD naudojo prieštaringą veido atpažinimo įrankį. Štai ką reikia žinoti.

Naujai išleisti el. laiškai rodo, kad Niujorko policija plačiai naudoja prieštaringai vertinamą „Clearview AI“ veido atpažinimo sistemą ir daro apie tai klaidinančius teiginius.

Fawkes jau buvo atsisiųsta beveik pusę milijono kartų iš projekto svetainė . Vienas vartotojas taip pat sukūrė internetinė versija , todėl žmonėms jais naudotis bus dar lengviau (nors Wengeras negarantuos, kad trečiosios šalys naudos kodą, įspėjimas: jūs nežinote, kas vyksta su jūsų duomenimis, kol tas asmuo juos apdoroja). Dar nėra telefono programos, bet niekas netrukdo kažkam ją sukurti, sako Wengeris.

Fawkesas gali neleisti jūsų atpažinti naujai veido atpažinimo sistemai – tarkime, kitai „Clearview“. Tačiau tai nesugadins esamų sistemų, kurios jau buvo išmokytos naudoti jūsų neapsaugotus vaizdus. Tačiau technika nuolat tobulėja. Wengeras mano, kad Valeriia Cherepanova ir jos kolegų iš Merilendo universiteto, vienos iš ICLR komandų šią savaitę, sukurta priemonė gali išspręsti šią problemą.

Skambino LowKey , įrankis išplečia Fawkesą, taikydamas perturbacijas vaizdams, paremtas stipresniu priešiško išpuoliu, kuris taip pat apgauna iš anksto paruoštus komercinius modelius. Kaip Fawkesas, LowKey taip pat galima rasti internete .

Erfani ir jos kolegos pridėjo dar didesnį posūkį. Kartu su Danieliu Ma iš Deakino universiteto ir mokslininkais iš Melburno universiteto ir Pekino universiteto Pekine Erfani sukūrė būdą, kaip vaizdus paversti „ nesuvokiami pavyzdžiai “, dėl kurių dirbtinis intelektas visiškai ignoruoja jūsų asmenukes. Manau, kad tai puiku, sako Wengeris. Fawkesas moko modelį, kad sužinotų apie jus ką nors ne taip, o šis įrankis moko modelį, kad jis nieko apie jus nesužinotų.

Mano vaizdai, iškrapštyti iš interneto (viršuje), paverčiami sunkiais pavyzdžiais (apačioje), į kuriuos veido atpažinimo sistema nepaisys. (Padėka Sarah Erfani, Danieliui Ma ir kolegoms)

Skirtingai nuo Fawkeso ir jo pasekėjų, neįmanomi pavyzdžiai nėra pagrįsti priešiškomis atakomis. Vietoj įvaizdžio pakeitimų, kurie verčia dirbtinį intelektą suklysti, Mamos komanda prideda nedidelių pakeitimų, kurie verčia dirbtinį intelektą ignoruoti jį treniruočių metu. Pateikus vaizdą vėliau, jo įvertinimas, kas jame yra, bus ne geresnis nei atsitiktinis spėjimas.

Neįmanomi pavyzdžiai gali pasirodyti veiksmingesni už priešiškas atakas, nes jų negalima apmokyti. Kuo daugiau priešpriešinių pavyzdžių AI mato, tuo geriau juos atpažįsta. Tačiau kadangi Erfani ir jos kolegos sustabdo dirbtinį intelektą nuo vaizdų mokymo, jie tvirtina, kad tai neįvyks, jei pateikiami neįmanomi pavyzdžiai.

Tačiau Wengeras yra susitaikęs su vykstančia kova. Jos komanda neseniai pastebėjo, kad „Microsoft Azure“ veido atpažinimo paslauga nebėra suklastota kai kurių jų vaizdų. Ji sako, kad ji staiga kažkaip tapo tvirta uždengtiems vaizdams, kuriuos sukūrėme. Mes nežinome, kas atsitiko.

„Microsoft“ galėjo pakeisti savo algoritmą arba dirbtinis intelektas tiesiog matė tiek daug vaizdų iš žmonių, naudojančių Fawkes, kad išmoko juos atpažinti. Bet kuriuo atveju Wengero komanda praėjusią savaitę išleido savo įrankio atnaujinimą, kuris vėl veikia prieš Azure. Tai dar vienos katės ir pelės ginklavimosi varžybos, sako ji.

Wengeriui tai yra interneto istorija. Tokios įmonės kaip „Clearview“ naudojasi tuo, kas, jų manymu, yra laisvai prieinami duomenys, ir naudoja juos darydamos ką nori, sako ji.

Reguliavimas gali padėti ilgainiui, tačiau tai netrukdys įmonėms pasinaudoti spragomis. Ji sako, kad visada atsiras ryšys tarp to, kas teisiškai priimtina, ir to, ko žmonės iš tikrųjų nori. Tokie įrankiai kaip Fawkes užpildo šią spragą.

Suteikime žmonėms jėgų, kurių jie anksčiau neturėjo, sako ji.

paslėpti