Naujasis „Google“ AI šypsenos detektorius parodo, kaip rasės ir lyties įtraukimas gali sumažinti šališkumą

Kategorija: Neįtraukta į kategorijas Paskelbta Gruodžio 04 d

Kompiuterinis regėjimas vis geriau atpažįsta skirtingas veido išraiškas, tačiau tam tikroms grupėms, kurios nėra tinkamai atstovaujamos treniruočių duomenų rinkiniuose, pavyzdžiui, rasinėms mažumoms ar moterims, turinčioms androginiškų bruožų, algoritmai vis tiek gali veikti prasčiau.

Naujas straipsnis, paskelbtas arXiv „Google“ mokslininkai patobulino pažangiausius šypsenos aptikimo algoritmus, įtraukdami ir mokydami į savo modelį rasės ir lyties klasifikatorius. Rasinis klasifikatorius buvo apmokytas keturiuose rasių pogrupiuose ir dviejuose pagal lytį (tyrėjai neįvardijo rasinių grupių, tačiau atrodo, kad vaizdus sudaro azijiečiai, juodaodžiai, ispanai ir baltieji žmonės).

Jų metodas pasiekė beveik 91 procento tikslumą aptikdamas šypsenas pasaulio veidų (FotW) duomenų rinkinyje, 13 000 veidų vaizdų rinkinyje, surinktame iš interneto ir kuris kartais naudojamas kaip tokių algoritmų etalonas. Tai yra šiek tiek daugiau nei 1,5 procento pagerėjimas, palyginti su ankstesniu ženklu. Rezultatai parodė, kad apskritai pagerėjo tikslumas, o tai rodo, kad atkreipiant dėmesį į rasę ir lytį galima gauti geresnių rezultatų nei bandant sukurti spalvų aklumo algoritmą.

Daugelis tyrinėtojų nesiryžta įtraukti tokius klasifikatorius, darydami prielaidą, kad lengviau būti kaltam dėl šališkumo (arba bent jau būti tuo apkaltintam), kai jūsų sistemoje yra aiškios rasinės ar lyties kategorijos. „Google“ komandos rezultatai įrodo, kad pastangos mokyti rasių ar lyčių klasifikatorius iš tikrųjų gali sumažinti šališkumo problemą. Tyrėjai taip pat naudojo tokias klasifikacijas kaip 1 lytis ir 2 lytis, kad, kai tik įmanoma, būtų išvengta nesąmoningo visuomenės šališkumo.

Net ir turėdami daug žadančių rezultatų ir stengdamiesi suvokti visų formų šališkumą, mokslininkai į savo dokumentą įtraukė skyrių „Etiniai svarstymai“, kuriame jie stengiasi pastebėti, kad jų darbas nėra skirtas motyvuoti rasei ir lyčiai. identifikavimas kaip galutinis tikslas. Jie taip pat atkreipia dėmesį į tai, kad nėra aukso standarto, leidžiančio suskirstyti rasines kategorijas, ir kad lytis galbūt ateityje turėtų būti laikoma spektru, o ne dvejetaine būsena.