211service.com
Ar galite sukurti DI, kuris nėra gebantis?
Dougas Maloney / Unsplash
Dirbtinis intelektas turi gerai žinomą šališkumo problemą, ypač kai kalbama apie rasę ir lytį. Galbūt matėte kai kurias antraštes: veido atpažinimo sistemos, kurios nesugeba atpažinti juodaodžių moterų , arba automatinius įdarbinimo įrankius, kurie praleisti moteris kandidates .
Tačiau nors mokslininkai labai stengėsi išspręsti kai kurias baisiausias problemas, yra viena žmonių grupė, į kurią jie nepastebėjo: neįgalieji. Paimkite savarankiškai važiuojančius automobilius. Jų algoritmai remiasi treniruočių duomenimis, kad sužinotų, kaip atrodo pėstieji, kad transporto priemonės jų nepervažiuotų. Jei treniruočių duomenys neapima neįgaliojo vežimėliuose sėdinčių žmonių, ši technologija gali kelti jiems pavojų gyvybei.
Shari Trewin, IBM pritaikymo neįgaliesiems vadovaujančios komandos tyrėjui, tai nepriimtina. Kaip dalis a nauja iniciatyva , ji dabar yra tyrinėjant nauji projektavimo procesai ir techniniai metodai, skirti sumažinti mašinų šališkumą prieš žmones su negalia. Ji kalbėjo su mumis apie kai kuriuos iššūkius ir kai kuriuos galimus sprendimus.
Toliau pateikta informacija buvo redaguota siekiant apimties ir aiškumo.
Kodėl sąžiningumas neįgaliųjų atžvilgiu yra kitokia problema, nei sąžiningumas, susijęs su kitais saugomais požymiais, pvz., rase ir lytimi?
Neįgalumo statusas yra daug įvairesnis ir sudėtingesnis, nes jis veikia žmones. Daugelis sistemų modeliuos rasę arba lytį kaip paprastą kintamąjį su nedideliu galimų reikšmių skaičiumi. Tačiau kalbant apie negalią, yra tiek daug skirtingų formų ir įvairaus sunkumo. Kai kurie iš jų yra nuolatiniai, kiti laikini. Kiekvienas iš mūsų gali prisijungti prie šios kategorijos arba ją palikti bet kuriuo gyvenimo momentu. Tai dinamiškas dalykas.
Maždaug vienas iš penkių žmonių JAV šiuo metu turi tam tikrą negalią. Taigi jis tikrai paplitęs, bet sunku suskirstyti į paprastą kintamąjį su nedideliu galimų reikšmių skaičiumi. Gali būti sistema, kuri diskriminuoja akluosius, bet ne kurčiuosius. Taigi patikrinti teisingumą tampa daug sunkiau.
Informacija apie negalią taip pat labai jautri. Žmonės nelinkę to atskleisti nei lyties, amžiaus ar rasės informacijos, o kai kuriais atvejais net neteisėta prašyti šios informacijos. Taigi daug kartų duomenyse jūs daug mažiau tikėtina, kad ką nors žinote apie negalią, kurią asmuo gali turėti arba ne. Dėl to taip pat daug sunkiau žinoti, ar turite sąžiningą sistemą.
Norėjau tavęs paklausti apie tai. Kaip žmonės, nusprendėme, kad geriausias būdas išvengti negalios diskriminacijos yra neatskleisti neįgalumo statuso. Kodėl tai negalioja mašininio mokymosi sistemoms?
Shari Trewin, IBM Accessibility Leadership komandos tyrėjas, su IBM sutikimu
Taip, tai pirmas dalykas, apie kurį žmonės galvoja: jei sistema nieko nežino apie asmenų neįgalumo statusą, tai tikrai bus teisinga. Tačiau problema yra ta, kad negalia dažnai paveikia kitas informacijos dalis, kuri įvedama į modelį. Pavyzdžiui, tarkime, kad esu asmuo, kuris naudojasi ekrano skaitytuvu, kad pasiektų žiniatinklį, ir atlieku internetinį darbo paraiškos testą. Jei ta bandomoji programa nėra gerai sukurta ir nepasiekiama mano ekrano skaitytuvui, man užtruks ilgiau naršyti po puslapį, kol galėsiu atsakyti į klausimą. Jei vertinant mane į šį laiką neatsižvelgiama, kiekvienas, kuris naudoja tą patį įrankį su panašia negalia, yra sistemingai nepalankioje padėtyje, net jei sistema nežino, kad aš aklas.
Taigi, jei yra tiek daug skirtingų negalios niuansų, ar iš tikrųjų įmanoma pasiekti sąžiningumo?
Manau, kad bendresnis iššūkis dirbtinio intelekto bendruomenei yra tai, kaip elgtis su nuokrypiais, nes mašininio mokymosi sistemos – jos mokosi normų, tiesa? Jie optimizuoja normas ir jokiu ypatingu būdu nenagrinėja nuokrypių. Tačiau dažnai žmonės su negalia neatitinka normos. Tai, kaip mašininis mokymasis vertina žmones pagal tai, į ką jie atrodo panašūs, net jei galbūt niekada nematė nieko panašaus į jus, yra esminis apribojimas siekiant sąžiningo elgesio su žmonėmis su negalia.
Daug geriau veiktų metodas, sujungiantis mašininį mokymąsi su papildomu sprendimu, pvz., loginėmis taisyklėmis, kurios įdiegtos aukščiau esančiame sluoksnyje. Taip pat yra situacijų, kai didesnis dėmesys įvairesniam duomenų rinkiniui tikrai padėtų. Kai kurie žmonės eksperimentuoja su technikomis, kai išimama duomenų esmė ir bandoma išmokti atpažinti nuokrypius. Kiti eksperimentuoja su skirtingais mokymosi metodais, kurie gali būti geriau optimizuojami, kad būtų pašalintos, o ne įprastos.
Manau, tik tada, kai pradedi galvoti apie negalią, pradedi galvoti apie individų įvairovę ir nuokrypių svarbą. Jei duomenų rinkinyje nėra pakankamai lyčių įvairovės, galite tai ištaisyti. Ištaisyti negalios įvairovę nėra taip paprasta.
Kaip įveikti problemą, kai žmonės kalba privačiai dėl savo neįgalumo statuso?
Taip, norint patikrinti sistemos teisingumą, jums reikia tam tikrų duomenų. Ir žmonės su negalia tokių duomenų teikimas yra socialinis gėris, tačiau tai yra asmeninė rizika. Žmonės su negalia dažnai lengvai atpažįstami net anoniminiuose duomenyse, nes jie tokie unikalūs. Taigi, kaip tai sušvelninti? Mes vis dar tai išsiaiškiname.
Kas jums kelia didžiausią susirūpinimą dėl šios problemos?
Dažnai AI sistemos optimizuoja tai, kas nėra žmonių, kuriems daro įtaką sprendimai, gerovė. Šis poveikis turi būti daug svarbesnis projektavimo procese, kad ne tik įdiegtume sistemą, pagal kurią būtų atsižvelgiama į tai, kiek pinigų sutaupome arba kaip efektyviai apdorojame žmones. Mums reikia naujų būdų, kaip įvertinti sistemas, kurios apimtų poveikio galutiniams vartotojams aspektą, ypač jei tai nepalankioje padėtyje esanti grupė.
Kaip mes tai padarytume?
Sąžiningumo tikrinimas yra vienas iš būdų įvertinti šį poveikį. Kitas dalykas yra įtraukti nepalankioje padėtyje esančią grupę į projektavimo procesą ir išgirsti jų susirūpinimą. Netgi aiškiai įtraukiant tam tikrą suinteresuotųjų šalių pasitenkinimo metriką, kurią galėtumėte įvertinti per interviu ar apklausas – panašiai.
Kokie dalykai jus džiugina šioje tyrimų srityje?
Dirbtinio intelekto technologijos jau keičia pasaulį žmonėms su negalia, suteikdamos jiems naujų galimybių, pavyzdžiui, programas, kurios nurodo, kas yra jūsų matymo lauke, kai nukreipiate telefoną.
Manau, kad jei tai padarysime teisingai, AI sistemoms atsiras reali galimybė patobulinti ankstesnes tik žmonėms skirtas sistemas. Šiandien visuomenėje yra daug neįgaliųjų diskriminacijos, šališkumo ir nesupratimo. Jei rasime būdą sukurti dirbtinio intelekto sistemas, kurios pašalintų tokį šališkumą, galėsime pradėti keisti elgesį su žmonėmis su negalia ir sumažinti diskriminaciją.