Taip praradome veidų kontrolę

Getty

1964 m. matematikas ir informatikas Vudro Bledsoe pirmą kartą bandė sulyginti įtariamųjų veidus su mugshots. Jis išmatavo atstumus tarp skirtingų veido bruožų spausdintose nuotraukose ir įtraukė juos į kompiuterinę programą. Jo pradinė sėkmė paskatins dešimtmečius trukusius mokymo mašinų, skirtų atpažinti žmonių veidus, tyrimus.

Dabar naujas tyrimas rodo, kiek ši įmonė sugriovė mūsų privatumą. Tai ne tik paskatino vis galingesnį stebėjimo įrankį. Naujausios kartos giluminiu mokymusi paremtas veido atpažinimas visiškai sujaukė mūsų sutikimo normas.

Deborah Raji, ne pelno organizacijos „Mozilla“ bendradarbė ir Genevieve Fried, konsultuojanti JAV Kongreso narius algoritminės atskaitomybės klausimais, ištyrė daugiau nei 130 veido atpažinimo duomenų rinkinių, sudarytų per 43 metus. Jie išsiaiškino, kad mokslininkai, skatinami sparčiai augančių gilaus mokymosi duomenų reikalavimų, palaipsniui atsisakė prašyti žmonių sutikimo. Dėl to vis daugiau žmonių asmeninių nuotraukų buvo įtraukta į stebėjimo sistemas be jų žinios.

Dėl to duomenų rinkiniai taip pat buvo daug sudėtingesni: juose gali būti netyčia įtrauktos nepilnamečių nuotraukos, rasistinės ir seksistinės etiketės arba nenuosekli kokybė ir apšvietimas. Ši tendencija galėtų padėti paaiškinti didėjantį atvejų, kai veido atpažinimo sistemos sugenda ir sukelia nerimą keliančius padarinius, pvz., melagingi dviejų juodaodžių sulaikymai pernai Detroito srityje.

Žmonės labai atsargiai rinko, dokumentavo ir tikrino veido duomenis pirmosiomis dienomis, sako Raji. Dabar mums neberūpi. Viso to buvo atsisakyta, sako ji. Jūs tiesiog negalite stebėti milijono veidų. Po tam tikro momento jūs net negalite apsimesti, kad turite kontrolę.

Veido atpažinimo duomenų istorija

Tyrėjai nustatė keturias pagrindines veido atpažinimo eros, kurių kiekvieną lėmė didėjantis noras tobulinti technologiją. Pirmajam etapui, kuris tęsėsi iki 1990 m., daugiausia buvo naudojami rankiniu būdu intensyvūs ir skaičiavimo metodai.

Tačiau vėliau, paskatintas supratimo, kad veido atpažinimas gali atsekti ir identifikuoti asmenis veiksmingiau nei pirštų atspaudai, JAV Gynybos departamentas skyrė 6,5 mln. USD, kad sukurtų pirmąjį didelio masto veido duomenų rinkinį. Per 15 fotografijos sesijų per trejus metus projekto metu užfiksuoti 14 126 1 199 asmenų vaizdai. Veido atpažinimo technologijos (FERET) duomenų bazė buvo išleista 1996 m.

Kitą dešimtmetį akademiniai ir komerciniai veido atpažinimo tyrimai išaugo ir buvo sukurta daug daugiau duomenų rinkinių. Didžioji dauguma buvo gauta per fotosesijas, tokias kaip FERET, ir turėjo visišką dalyvio sutikimą. Daugelis taip pat įtraukė kruopščius metaduomenis, sako Raji, pavyzdžiui, tiriamųjų amžių ir etninę kilmę arba informaciją apie apšvietimą. Tačiau šios ankstyvosios sistemos sunkiai veikė realiose situacijose, todėl mokslininkai ieškojo didesnių ir įvairesnių duomenų rinkinių.

2007 m. išleidus ženklintų laukinių veidų (LFW) duomenų rinkinį, atvėrė užtvaras duomenų rinkimui naudojant žiniatinklio paiešką. Tyrėjai pradėjo atsisiųsti vaizdus tiesiai iš „Google“, „Flickr“ ir „Yahoo“, nesirūpindami dėl sutikimo. Vėlesnis duomenų rinkinys, kurį sudarė kiti tyrėjai, pavadintas LFW+, taip pat sušvelnino nepilnamečių įtraukimo standartus, naudodamas nuotraukas su paieškos terminais, pvz., kūdikis, nepilnametis ir paauglys, kad padidintų įvairovę. Šis procesas leido per trumpą laiką sukurti žymiai didesnius duomenų rinkinius, tačiau veido atpažinimas vis tiek susidūrė su daugeliu tų pačių iššūkių kaip ir anksčiau. Tai paskatino tyrėjus ieškoti dar daugiau metodų ir duomenų, kad būtų išvengta prasto technologijos veikimo.

Tada, 2014 m., „Facebook“ naudojo savo vartotojų nuotraukas, kad apmokytų gilaus mokymosi modelį „DeepFace“. Nors bendrovė niekada nepaskelbė duomenų rinkinio, sistemos antžmogiškas veikimas padidino gilų mokymąsi iki de facto veidų analizės metodo. Būtent tada rankinis patikrinimas ir ženklinimas tapo beveik neįmanomi, nes duomenų rinkiniai išaugo iki dešimčių milijonų nuotraukų, sako Raji. Taip pat tada, kai pradeda pasirodyti tikrai keisti reiškiniai, pavyzdžiui, automatiškai generuojamos etiketės, kuriose yra įžeidžiančios terminijos.

Susijusi istorija

AI pamatė apkarpytą AOC nuotrauką. Tai automatiškai užbaigė ją vilkėdama bikinį. Vaizdų generavimo algoritmai atgaivina tas pačias seksistines, rasistines idėjas, kurios egzistuoja internete.

Šiuo metu duomenų rinkinių naudojimo būdas taip pat pradėjo keistis. Užuot bandę suderinti asmenis, nauji modeliai pradėjo daugiau dėmesio skirti klasifikacijai. Užuot sakę: „Ar tai Karen nuotrauka? Taip ar ne“, – tai pavirto į „Prognozuokime Karen vidinę asmenybę arba jos etninę kilmę“ ir skirstydami žmones į šias kategorijas“, – sako Raji.

„AI Now“ pasaulinės politikos direktorė Amba Kak, kuri nedalyvavo tyrime, teigia, kad dokumente pateikiamas aiškus vaizdas, kaip vystėsi biometrijos pramonė. Ji sako, kad gilus mokymasis galėjo išgelbėti technologiją nuo tam tikrų sunkumų, tačiau ši technologinė pažanga taip pat kainavo. Tai iškelia visas šias problemas, su kuriomis dabar gerai žinome: sutikimas, ištraukimas, IP problemos, privatumas.

Žala, kuri sukelia žalą

Radži sako, kad jos duomenų tyrimas privertė ją labai sunerimti dėl giluminiu mokymusi pagrįsto veido atpažinimo.

Tai daug pavojingiau, sako ji. Duomenų reikalavimas verčia rinkti neįtikėtinai jautrią informaciją bent apie dešimtis tūkstančių žmonių. Tai verčia jus pažeisti jų privatumą. Tai savaime yra žalos pagrindas. Ir tada mes kaupiame visą šią informaciją, kurios negalite kontroliuoti, kad sukurtume kažką, kas greičiausiai veiks taip, kaip jūs net negalite numatyti. Tai iš tikrųjų yra mūsų buvimo vietos prigimtis.

Ji tikisi, kad šis dokumentas paskatins tyrėjus susimąstyti apie kompromisą tarp efektyvumo padidėjimo, gauto iš gilaus mokymosi, ir sutikimo praradimo, kruopštaus duomenų tikrinimo ir išsamios dokumentacijos. Ar buvo verta atsisakyti visų šių praktikų, norint giliai mokytis? ji sako.

Ji ragina tuos, kurie nori ir toliau kurti veido atpažinimą, apsvarstyti įvairių metodų kūrimą: norėdami iš tikrųjų pabandyti naudoti šį įrankį nepakenkdami žmonėms, turėsime iš naujo įsivaizduoti viską, ką apie tai žinome.

Pataisa, 2021 m. vasario 15 d.: Ankstesnėje straipsnio versijoje buvo teigiama, kad „Labeled Faces in the Wild“ (LFW) duomenų rinkinys „švelnino nepilnamečių įtraukimo standartus“. Iš tikrųjų tai buvo LFW+ duomenų rinkinys, kurį vėliau sudarė kita tyrėjų grupė.

paslėpti