211service.com
Kaip atsikratyti paslėptų AI šališkumo
Algoritmai priima gyvenimą keičiančius sprendimus, pavyzdžiui, atmeta lygtinį paleidimą arba suteikia paskolas. Harvardo kompiuterių mokslininkė Cynthia Dwork kuria būdus, kaip užtikrinti, kad mašinos veiktų sąžiningai. 2017 m. spalio 24 d
Migelis Porlanas
Kodėl algoritmų kūrėjams ar duomenų mokslininkams sunku atsižvelgti į šališkumą ir nesąžiningumą?
Paimkite darbo aplinką, kuri yra priešiška moterims. Tarkime, kad sėkmę apibrėžiate kaip faktą, kad kažkas dirba dvejus ar trejus metus ir gauna paaukštinimą. Tada jūsų prognozuotojas, remdamasis istoriniais duomenimis, tiksliai nuspės, kad nėra gera idėja samdyti moteris. Čia įdomu tai, kad mes nekalbame apie istorinius samdymo sprendimus. Net jei įdarbinimo sprendimai buvo visiškai nešališki, tikrovė – tikra diskriminacija priešiškoje aplinkoje – išlieka. Jis gilesnis, struktūriškesnis, labiau įsišaknijęs ir sunkiau įveikiamas.
Ši istorija buvo mūsų 2017 m. lapkričio mėnesio numerio dalis
- Žr. likusią numerio dalį
- Prenumeruoti
Manau, kad mašininis mokymasis ir dirbtinis intelektas bus naudingi kartu su tikrai gerai išmanančiais istoriją, sociologiją ir psichologiją, kad išsiaiškintų, su kuo turėtų būti elgiamasi panašiai.
Nesakau, kad kompiuteriai niekada to nepadarys, bet dabar to nematau. Kaip žinoti, kada turite tinkamą modelį ir kada jis fiksuoja, kas iš tikrųjų atsitiko visuomenėje? Turite suprasti, apie ką kalbate. Yra žinomas posakis, kad visi modeliai yra neteisingi, o kai kurie yra naudingi.
— kaip pasakė Vilui Knightui