211service.com
AI programos mokosi išskirti kai kuriuos afroamerikiečių balsus
Balso sąsajos, pokalbių robotai ir kitos sistemos diskriminuoja tam tikrus mažumų dialektus. 2017 m. rugpjūčio 16 d
Labai dažnai žmonės priima greitus sprendimus pagal tai, kaip jūs kalbate. Kai kurios dirbtinio intelekto sistemos taip pat mokosi būti nusiteikusios prieš kai kuriuos dialektus. Kadangi kalbomis pagrįstos AI sistemos tampa vis labiau paplitusios, kai kurios mažumos gali būti automatiškai diskriminuojamos mašinų, perspėja šią problemą tyrinėjantys mokslininkai.
Kiekvienas, turintis stiprų ar neįprastą akcentą, gali žinoti, ką reiškia sunku suprasti Siri ar Alexa. Taip yra todėl, kad balso atpažinimo sistemos naudoja natūralios kalbos technologiją kalbos turiniui analizuoti ir dažnai remiasi algoritmais, parengtais naudojant pavyzdinius duomenis. Jei nėra pakankamai konkretaus akcento ar liaudies kalbos pavyzdžių, šios sistemos gali tiesiog nesuprasti jūsų (žr. AI kalbos problemą).
Problema gali būti labiau paplitusi ir pavojingesnė, nei dauguma žmonių supranta. Natūralios kalbos technologija dabar užtikrina automatizuotą sąveiką su klientais naudojant automatizuotas telefono sistemas arba pokalbių robotus. Jis naudojamas viešajai nuomonei žiniatinklyje ir socialiniuose tinkluose išgauti ir rašytiniams dokumentams ieškoti naudingos informacijos. Tai reiškia, kad paslaugos ir produktai, sukurti remiantis kalbų sistemomis, jau gali nesąžiningai diskriminuoti tam tikras grupes.
Brendanas O'Connoras , Masačusetso universiteto Amherste docentas ir vienas iš jo absolventų, Su Linas Blodžetas , pažvelgė į kalbos vartojimą „Twitter“. Naudodami demografinį filtravimą, mokslininkai surinko 59,2 milijono tviterinių žinučių su didele tikimybe, kad juose yra afroamerikiečių slengo ar liaudies kalbos. Tada jie išbandė keletą natūralios kalbos apdorojimo įrankių šiame duomenų rinkinyje, kad sužinotų, kaip jie traktuotų šiuos teiginius. Jie išsiaiškino, kad viena populiari priemonė šiuos pranešimus priskyrė danų kalbai su dideliu pasitikėjimu.
Jei analizuojate „Twitter“ ir ieškote žmonių nuomonės apie politikus ir net nesvarstote, ką sako afroamerikiečiai ar jauni suaugusieji, tai atrodo problematiška, sako O'Connor.
Pora taip pat išbandė keletą populiarių mašininiu mokymusi pagrįstų API, kurios analizuoja teksto reikšmę ir jausmus, ir nustatė, kad šios sistemos taip pat sunkiai. Jei įsigyjate nuotaikų analizatorių iš kokios nors įmonės, net nežinote, kokių šališkumo jis turi, sako O'Connor. Mes neturime daug audito ar žinių apie šiuos dalykus.
Jis sako, kad problema apima bet kurią sistemą, kuri naudoja kalbą, įskaitant paieškos variklius.
Nesąžiningumo problema, kylanti dėl AI algoritmų naudojimo, kai kuriose srityse sulaukia dėmesio, nes šie algoritmai naudojami plačiau. Vienas prieštaringai vertinamas galimo šališkumo pavyzdys yra patentuotas algoritmas, vadinamas Compass, kuris naudojamas sprendžiant, ar kalėjimo kaliniai turėtų būti lygtinai paleisti. Algoritmo veikimas nežinomas, bet tyrimai rodo, kad jis yra šališkas juodaodžių kalinių atžvilgiu.
Tačiau kai kurie ekspertai teigia, kad problema gali būti rimtesnė, nei daugelis žmonių žino, ir ji gali turėti įtakos vis daugiau sprendimų finansų, sveikatos priežiūros ir švietimo srityse (žr. Šališki algoritmai yra visur ir niekam, atrodo, nerūpi).
UMass mokslininkai pristatė savo darbą seminare, skirtame AI šališkumo problemai ištirti. Renginys „Mašininio mokymosi sąžiningumas ir skaidrumas“ šiemet buvo didesnės duomenų mokslo konferencijos dalis, tačiau 2018 m. jis taps atskira konferencija. Solono barokai , Kornelio docentas ir renginio įkūrėjas, sako, kad ši sritis auga, vis daugiau tyrėjų tiria AI sistemų šališkumo problemą.
Pasidalijo Goelis , Stanfordo universiteto docentas, tiriantis algoritmų teisingumą ir viešąją politiką, sako, kad problema ne visada yra paprasta. Jis pažymi, kad gali būti pernelyg paprasta algoritmus vadinti šališku, nes jie gali veikti visiškai taip, kaip numatyta, todėl prognozės yra tikslios ir tiesiog atspindi platesnį socialinį šališkumą. Geriau apibūdinti, ką algoritmas daro, priežastį, kodėl jis tai daro, ir tada nuspręsti, ar tai yra tai, ko norime, sako Goelis.