Įsilaužimas, dėl kurio veido atpažinimas gali manyti, kad kažkas kitas esate jūs

Michael Aleo / Unsplash

Tyrėjai įrodė, kad šiuolaikinę veido atpažinimo sistemą jie gali apgauti ir pamatyti žmogų, kurio nėra.

Kibernetinio saugumo įmonės „McAfee“ komanda surengė ataką prieš veido atpažinimo sistemą, panašią į tą, kuri šiuo metu naudojama oro uostuose tikrinant pasus. Naudodami mašininį mokymąsi, jie sukūrė vaizdą, kuris žmogaus akiai atrodė kaip vienas asmuo, bet pagal veido atpažinimo algoritmą buvo identifikuojamas kaip kažkas kitas – tai prilygsta mašinos apgaudinėjimui, leidžiančiam kam nors įsėsti į skrydį, nepaisant to, kad jis skrenda be skrydžio. musių sąrašas.

Jei žiūrime prieš tiesioginę kamerą, kuri naudoja veido atpažinimą, kad nustatytų ir interpretuotų, į ką jie žiūri, ir palygintume tai su paso nuotrauka, galime realiai ir pakartotinai sukelti tokį tikslinį klaidingą klasifikavimą, sakė tyrimo pagrindinis autorius. Steve'as Povolny.

Kaip tai veikia

Norėdami neteisingai nukreipti algoritmą, mokslininkai naudojo vaizdų vertimo algoritmą, žinomą kaip CycleGAN, kuris puikiai perkelia nuotraukas iš vieno stiliaus į kitą. Pavyzdžiui, uosto nuotrauka gali atrodyti taip, lyg ją būtų nupiešusi Monet, arba vasarą padarytą kalnų nuotrauką taip, lyg ji būtų daryta žiemą.

JUN-YAN ZHU IR TAESUNG PARKAS IR AL.

„McAfee“ komanda panaudojo 1500 nuotraukų iš kiekvieno iš dviejų projekto laidų ir įdėjo vaizdus į „CycleGAN“, kad juos pakeistų viena į kitą. Tuo pačiu metu jie naudojo veido atpažinimo algoritmą, kad patikrintų „CycleGAN“ sugeneruotus vaizdus ir sužinotų, ką atpažino. Sukūręs šimtus vaizdų, CycleGAN galiausiai sukūrė suklastotą vaizdą, kuris plika akimi atrodė kaip asmuo A, bet apgavo veido atpažinimo funkciją, manydamas, kad tai asmuo B.

MCAFEE

Nors tyrimas kelia aiškų susirūpinimą dėl veido atpažinimo sistemų saugumo, yra keletas įspėjimų. Pirma, mokslininkai neturėjo prieigos prie tikrosios sistemos, kurią oro uostai naudoja keleiviams identifikuoti, o apytiksliai ją suderino su moderniausiu atvirojo kodo algoritmu. Manau, kad užpuolikui, kurį bus sunkiausia įveikti, sako Povolny, kai [jie] neturi prieigos prie tikslinės sistemos. Nepaisant to, atsižvelgiant į didelius veidų atpažinimo algoritmų panašumus, jis mano, kad tikėtina, kad ataka veiktų net ir tikroje oro uosto sistemoje.

Kaip veikia GAN

• Generatyvūs priešpriešiniai tinklai yra algoritmų klasė, kuri sumaniai supriešina neuroninius tinklus, kad gautų geresnių rezultatų.

  Tradiciniame GAN yra tik du tinklai: generatorius, kuris treniruojasi pagal duomenų rinkinį, tarkime, vasaros kraštovaizdį, kad išspjautų daugiau vasaros peizažų; ir diskriminatorius, kuris lygina sukurtus kraštovaizdžius su tuo pačiu duomenų rinkiniu, kad nuspręstų, ar jie tikri, ar netikri.

  CycleGAN modifikuoja šį procesą turėdamas du generatorius ir du diskriminatorius. Taip pat yra du vaizdų rinkiniai, pavyzdžiui, vasaros peizažai ir žiemos peizažai, vaizduojantys nuotraukas, kurias norėtumėte išversti.

  Šį kartą pirmasis generatorius treniruojasi prie vasaros peizažų vaizdų, bandydamas sukurti žiemos peizažus. Tuo tarpu antrasis generatorius treniruojasi pagal žiemos peizažų vaizdus, ​​kad sukurtų vasarinius. Abu diskriminatoriai dar kartą sunkiai dirba, kad sugautų klastotę, kol netikri peizažai nebesiskiria nuo tikrų.

  
  
  

Antra, šiandien tokia ataka reikalauja daug laiko ir išteklių. Norint apmokyti ir vykdyti „CycleGAN“, reikia galingų kompiuterių ir patirties.

Tačiau veidų atpažinimo sistemos ir automatizuota pasų kontrolė vis dažniau naudojamos oro uostų saugumui visame pasaulyje, o tai įvyko paspartino COVID-19 pandemija ir bekontakčių sistemų troškimas. Šią technologiją taip pat jau plačiai naudoja vyriausybės ir korporacijos tokiose srityse kaip teisėsauga , samdymas , ir renginio apsauga – nors daugelis grupių ragino a moratoriumą tokiems įvykiams ir kai kuriuose miestuose uždraudė technologiją .

Yra ir kitų techninių bandymų pakirsti veido atpažinimą. Neseniai išleido Čikagos universiteto komanda Fawkesas , įrankis, skirtas veidus užmaskuoti, šiek tiek pakeičiant jūsų nuotraukas socialinėje žiniasklaidoje, kad suklaidintų dirbtinio intelekto sistemas, kurios remiasi išgrynintomis milijardų tokių nuotraukų duomenų bazėmis. Taip pat dirbtinio intelekto įmonės „Kneron“ mokslininkai parodė kaip kaukės gali apgauti visame pasaulyje jau naudojamas veido atpažinimo sistemas.

„McAfee“ tyrėjai teigia, kad galiausiai jų tikslas yra parodyti būdingus šių dirbtinio intelekto sistemų pažeidžiamumus ir paaiškinti, kad žmonės turi likti grandinėje.

AI ir veido atpažinimas yra neįtikėtinai galingi įrankiai, padedantys identifikuoti ir suteikti įgaliojimus žmonėms, sako Povolny. Bet kai jūs tiesiog paimate juos ir aklai pakeičiate esamą sistemą, kuri visiškai priklauso nuo žmogaus, neturėdami kažkokio antrinio patikrinimo, tada staiga įvedate galbūt didesnę silpnybę, nei turėjote anksčiau.

paslėpti