IBM teigia, kad ji nebeveikia veido atpažinimo srityje, nes ji naudojama rasiniam profiliavimui

Kategorija: Dirbtinis intelektas Paskelbta birželio 09 d





Naujienos: IBM pranešė, kad bendrovė nustos kurti ar pardavinėti veido atpažinimo programinę įrangą dėl susirūpinimo, kad technologija naudojama rasizmui skatinti. A laiškas Kongresui IBM generalinis direktorius Arvindas Krishna teigė, kad technologijų milžinė nepritaria bet kokiai technologijai, naudojamai masiniam sekimui, rasiniam profiliavimui, pagrindinių žmogaus teisių ir laisvių pažeidimams.

Jis paragino pradėti nacionalinį dialogą dėl to, ar ir kaip tinkama veido atpažinimo technologiją naudoti šalies teisėsaugos institucijose. Laiške taip pat raginama nustatyti naujas federalines taisykles, kuriomis būtų kovojama su netinkamu policijos elgesiu, ir daugiau mokymų bei švietimo reikalaujamiems įgūdžiams, siekiant pagerinti spalvotų žmonių ekonomines galimybes.

Ne naujas rūpestis: Aktyvistai ir ekspertai jau daugelį metų pabrėžia, kad veido atpažinimo sistemos yra šališkos, ir reiškia susirūpinimą dėl jų. piktnaudžiavimo galimybė . Jų susirūpinimas yra teisėtas: a orientyrinis tyrimas JAV nacionalinis standartų ir technologijų institutas praėjusiais metais patvirtino, kad dauguma veido atpažinimo algoritmų veikė blogiau nebaltus veidus.



Kaip jis buvo priimtas: IBM yra pirmoji didelė technologijų įmonė, kuri visiškai pasitraukė nuo šios technologijos kūrimo. Nors žinia buvo plačiai priimta teigiamai technologijų darbuotojų, ypač kampanijos dalyvių, susirūpinusių dėl veido atpažinimo, kritikų nurodė kad IBM pasitraukti iš rinkos, kurioje ji iš pradžių vargiai įsitvirtino, yra vargu ar didelė auka.

Nepaisant to, tai vis dar yra didelė technologijų įmonė, kuri laikosi neįprastai tvirtos moralinės pozicijos dėl vienos kontroversiškiausių šios dienos temų. Tai ypač aktualu atsižvelgiant į JAV ir visame pasaulyje vykstančius protestus dėl policijos smurto ir rasizmo. Tačiau neaišku, ar tai liks vienkartinis IBM pakeitimas, ar veiksmas, padėsiantis paskatinti kitas technologijų įmones imtis veiksmų.