211service.com
Jei veido atpažinimas bus mažiau šališkas, jis netaps mažiau baisus
Busà Photography / Getty
Per pastaruosius kelerius metus labai išaugo veido atpažinimo, aptikimo ir analizės technologijos.
Jūs tikriausiai esate labiausiai susipažinę su pripažinimas sistemos, pvz., „Facebook“ nuotraukų žymėjimo rekomendacija ir „Apple“ FaceID, galinčios identifikuoti konkrečius asmenis. Aptikimas Kita vertus, sistemos nustato, ar veidas apskritai yra; ir analizė sistemos bando nustatyti tokius aspektus kaip lytis ir rasė. Visos šios sistemos dabar naudojamos įvairiems tikslams, nuo samdymas ir mažmeninė prekyba saugumo ir stebėjimas .
Daugelis žmonių mano, kad tokios sistemos yra labai tikslios ir nešališkos. Logiška, kad oro uosto apsaugos darbuotojai gali pavargti, o policija gali klaidingai įvertinti įtariamuosius, tačiau gerai apmokyta AI sistema turėtų sugebėti nuosekliai atpažinti arba suskirstyti į kategorijas bet kokį veido vaizdą.
Tačiau praktikoje tyrimai ne kartą parodė, kad šios sistemos su kai kuriomis demografinėmis grupėmis elgiasi daug netiksliau nei kitos. Praeitais metais, Lyties atspalviai MIT Media Lab tyrėjo Joy Buolamwini vadovaujamas pagrindinis tyrimas parodė, kad IBM, Microsoft ir Face++ parduodamų lyčių klasifikavimo sistemų klaidų lygis tamsesnės odos moterims buvo net 34,4 procentinio punkto didesnis nei šviesesnės odos vyrų. Šiaurės Kalifornijos ACLU panašiai rasta kad „Amazon“ platforma dažniau klaidingai identifikavo ne baltuosius, o ne baltuosius Kongreso narius.
Problema ta, kad veido atpažinimo ir analizės sistemos dažnai treniruojamos remiantis iškreiptais duomenų rinkiniais: jose pateikiama daug mažiau moterų ir žmonių su tamsia oda vaizdų nei vyrų ir žmonių su šviesia oda vaizdų. Ir nors daugelis iš jų yra tariamai tikrinami dėl sąžiningumo, šie testai netikrina efektyvumo pakankamai plačiame veidų diapazone, kaip nustatė Buolamwini. Šie skirtumai išlaiko ir dar labiau įtvirtina esamą neteisybę ir sukelia pasekmes, kurios tik pablogėja, kai statymas didėja.
Trys nauji dokumentai, išleisti per praėjusią savaitę, dabar atkreipia labai reikalingą dėmesį į šią problemą. Čia yra trumpas kiekvieno iš jų aprašymas.
Popierius Nr.1. Praėjusį ketvirtadienį, Buolamwini paleistas Gender Shades atnaujinimas iš naujo išbandant sistemas, kurias ji anksčiau ištyrė, ir išplėtus savo apžvalgą įtraukiant „Amazon's Rekognition“ ir naują mažos AI įmonės „Kairos“ sistemą. Yra gerų naujienų. Ji nustatė, kad IBM, Face++ ir Microsoft pagerino tamsesnės odos moterų klasifikavimo pagal lytį tikslumą, o „Microsoft“ sumažino klaidų lygį iki mažiau nei 2%. Kita vertus, „Amazon“ ir „Kairos“ platformos vis dar turėjo 31 ir 23 procentinių punktų tikslumo skirtumus tarp šviesesnių patinų ir tamsesnių patelių. Buolamwini sakė tyrimas rodo, kad šios technologijos turi būti tikrinamos iš išorės, kad jos būtų techniškai atskaitingos.
Popierius Nr.2. Sekmadienį a studijuoti iš MIT kompiuterių mokslo ir dirbtinio intelekto laboratorijos (CSAIL) pademonstravo naujo algoritmo veiksmingumą, mažinantį veido aptikimo sistemos šališkumą, net kai ji yra apmokyta naudojant labai šališkus duomenis. Treniruodamasi ji taip pat nustato, kurie pavyzdžiai duomenyse pateikiami nepakankamai, ir praleidžia daugiau laiko juos apžiūrinėdama, kad tai kompensuotų. Kai tyrėjai išbandė sistemą pagal Buolamwini Gender Shades duomenų rinkinį, jie nustatė, kad tai padėjo užpildyti didžiausią tikslumo spragą tarp šviesesnės ir tamsesnės odos vyrų, palyginti su standartiniu treniruočių algoritmu (nors jis to visiškai nepanaikino). .
Popierius #3. Šį rytą IBM tyrimų išleido a popierius kuri identifikuoja daugybę funkcijų, skirtų įvertinti įvairovę, be odos spalvos ir lyties, įskaitant galvos aukštį, veido plotį, atstumą tarp akių ir amžių. Išvados pagrįstos ankstesniais žmonių veidų tyrimais. Jei neturime veidų įvairovės priemonių, sako Johnas Smithas, vienas iš šio straipsnio bendraautorių, mes negalime grįžti ir juos įgyvendinti, kai mokome šias veido atpažinimo sistemas. Kartu komanda išleido naują duomenų rinkinį su 1 milijonu veidų vaizdų, pažymėtų šiomis naujomis priemonėmis.
Įvairūs veido įvairovės matai, pateikti naujame IBM tyrimų dokumente. IBM tyrimai
Kiekviename iš šių tyrimų buvo imtasi svarbių žingsnių, kad būtų pašalintas šališkumas veido atpažinimo srityje – įtraukiant įmones atskaitingus, sukuriant naujus algoritmus ir plečiant mūsų supratimą apie duomenų įvairovę. Tačiau teisingesnių ir tikslesnių sistemų kūrimas yra tik pusė darbo.
Netgi teisingiausios ir tiksliausios sistemos vis tiek gali būti naudojamos siekiant pažeisti žmonių pilietines laisves. Praėjusiais metais „Daily Beast“. tyrimą nustatė, kad „Amazon“ aktyviai pristatė savo veido stebėjimo platformą JAV imigracijos ir muitinės tarnybai, geriau žinomai kaip ICE, siekdama padėti susidoroti su migrantų bendruomenėmis. Pertrauka tyrimą taip pat nustatė, kad IBM sukūrė galimybę nustatyti veidų etninę kilmę, kaip ilgalaikės partnerystės su Niujorko policijos departamentu dalį. Tada ši technologija be miesto gyventojų žinios buvo įdiegta viešose stebėjimo kamerose. JK Metropoliteno policija jau naudoja veido atpažinimą nuskaityti visuomenės minias žmonėms, esantiems stebėjimo sąrašuose, o Kinija jį naudoja masinis stebėjiams visų gyventojų, įskaitant disidentų sekimą.
Reaguodami į spartų šių sistemų plitimą, vis daugiau pilietinių teisių aktyvistų ir technologai ragino juos reguliuoti; „Google“ netgi turi sustabdytas parduoti tokias sistemas, kol neturės aiškių strategijų, kaip užkirsti kelią piktnaudžiavimui jomis.
Be algoritminio teisingumo, algoritmo tikslumas / techninis sąžiningumas gali sukurti AI įrankius, kurie yra ginkluoti, sako Buolamwini.
Ši istorija iš pradžių pasirodė mūsų AI informaciniame biuletenyje „Algoritmas“. Jei norite, kad jis būtų pristatytas tiesiai į gautuosius, prisiregistruokite čia nemokamai.