JAV vyriausybės atliktas tyrimas patvirtina, kad dauguma veido atpažinimo sistemų yra rasistinės

Kategorija: Dirbtinis intelektas Paskelbta Gruodžio 20 d

Beveik 200 veido atpažinimo algoritmų (dauguma pramonės atstovų) veikė blogiau ant nebaltų veidų. orientyrinis tyrimas .

Ką jie išbandė: JAV Nacionalinis standartų ir technologijų institutas (NIST) išbandė kiekvieną algoritmą atlikdamas dvi dažniausiai pasitaikančias veido atpažinimo užduotis. Pirmasis, žinomas kaip „vienas su vienu“ suderinimas, apima kieno nors nuotraukos suderinimą su kita to paties asmens nuotrauka duomenų bazėje. Tai naudojama, pavyzdžiui, atrakinant išmaniuosius telefonus arba tikrinant pasus. Antrasis, žinomas kaip paieška „vienas su daugeliu“, apima nustatymą, ar kieno nors nuotrauka atitinka duomenų bazėje. Tai dažnai naudoja policijos departamentai, norėdami nustatyti įtariamuosius tyrimo metu.

Agentūra ištyrė keturis šiuo metu JAV vyriausybės programose naudojamus veidų duomenų rinkinius: JAV gyvenančių žmonių nuotraukas; prašymų nuotraukos iš žmonių, besikreipiančių dėl imigracijos pašalpų; prašymų nuotraukos iš žmonių, besikreipiančių dėl vizų; ir žmonių nuotraukos, kai jie kirto sieną į JAV. Iš viso duomenų rinkiniuose buvo 18,27 mln. 8,49 mln. žmonių vaizdų.

Ką jie rado: NIST pasidalino kai kuriais aukšto lygio tyrimo rezultatais. Pagrindiniai:

1. Atliekant individualų atitikimą daugumoje sistemų buvo didesnis klaidingų teigiamų atitikmenų dažnis tarp Azijos ir afroamerikiečių veidų, o ne iš kaukazietiškų veidų, kartais 10 ar net 100 kartų. Kitaip tariant, buvo didesnė tikimybė, kad rasti atitikmenį, kai jo nebuvo.

2. Tai pasikeitė veido atpažinimo algoritmams, sukurtiems Azijos šalyse, kurie davė labai mažai klaidingų teigiamų rezultatų tarp Azijos ir Kaukazo veidų.

3. JAV sukurti algoritmai nuolat blogai derino azijiečių, afroamerikiečių ir indėnų veidus. Amerikos indėnai patyrė didžiausią klaidingų teigiamų rezultatų skaičių.

4. Afroamerikiečių moterų klaidingų teigiamų rezultatų rodikliai buvo patys prasčiausiai vieno su daugeliu sistemų, todėl šiai populiacijai kyla didžiausia rizika būti klaidingai apkaltintai nusikaltimu.

Kodėl tai svarbu: Veido atpažinimo sistemų naudojimas sparčiai auga teisėsaugos, sienų kontrolės ir kitose srityse visoje visuomenėje. Nors kai kurie akademiniai tyrimai anksčiau parodė, kad populiarios komercinės sistemos yra šališkos rasės ir lyties atžvilgiu, NIST tyrimas yra išsamiausias įvertinimas iki šiol ir patvirtina šiuos ankstesnius rezultatus. Išvados verčia abejoti, ar šios sistemos ir toliau turėtų būti taip plačiai naudojamos.

Tolesni žingsniai: Dabar politikos formuotojai turi išsiaiškinti, kaip geriausiai reguliuoti šias technologijas. NIST taip pat ragina veido atpažinimo kūrėjus atlikti daugiau tyrimų, kaip būtų galima sumažinti šiuos šališkumus.

Jei norite, kad daugiau tokių istorijų būtų pristatyta tiesiai į jūsų pašto dėžutę, užsiprenumeruokite Webby nominuotą AI informacinį biuletenį The Algorithm. Tai nemokama.