211service.com
Išgyvename įvairovės krizę: „Black in AI“ vienas iš įkūrėjų apie mūsų gyvenimo nuodijimo algoritmus
Timnit Gebru žvalgosi po AI pasaulį ir nemato beveik nė vieno, kuris būtų panašus į ją. Tai mūsų visų problema. 2018 m. vasario 14 d
timnit brugo sutikimu
Dirbtinis intelektas tampa vis sklandesnė mūsų kasdienio gyvenimo dalis, apimanti viską nuo paieškų internete iki socialinės žiniasklaidos iki namų asistentų, tokių kaip Alexa. Bet ką daryti, jei ši nepaprastai svarbi technologija netyčia, bet iš esmės yra šališka? O ką daryti, jei šioje itin svarbioje srityje beveik nėra juodaodžių tyrinėtojų? Timnit Gebru sprendžia šiuos klausimus kaip „Microsoft“ sąžiningumo, atskaitomybės, skaidrumo ir etikos DI grupės, prie kurios ji prisijungė praėjusią vasarą, dalis. Ji taip pat buvo „Black in AI“ renginio Neural Information Processing Systems (NIPS) konferencijoje 2017 m. įkūrėjų ir buvo pirmosios sąžiningumo ir skaidrumo konferencijos, vykusios vasarį, iniciatyviniame komitete. Ji kalbėjo su MIT technologijų apžvalga apie tai, kaip šališkumas patenka į AI sistemas ir kaip įvairovė gali jį neutralizuoti.
Kaip įvairovės trūkumas iškreipia dirbtinį intelektą ir konkrečiai kompiuterinį regėjimą?
Ši istorija buvo mūsų 2018 m. kovo mėnesio numerio dalis
- Žr. likusią numerio dalį
- Prenumeruoti
Galiu kalbėti apie tai ištisus metus. Yra šališkumo, kokios problemos, mūsų nuomone, yra svarbios, kokie tyrimai, mūsų nuomone, yra svarbūs ir kur, mūsų manymu, dirbtinis intelektas turėtų būti nukreiptas. Jei mūsų tyrėjų rinkinys nėra įvairus, mes nespręsime problemų, su kuriomis susiduria dauguma pasaulio žmonių. Kai problemos mūsų neliečia, nemanome, kad jos yra tokios svarbios ir galbūt net nežinome, kas tai yra, nes nebendraujame su jas patiriančiais žmonėmis.
Kai pradėjau dirbti Black in AI, pradėjau ją su keliais savo draugais. Prieš tai turėjau nedidelį adresatų sąrašą, kuriame tiesiogine prasme įtraukdavau į adresų sąrašą bet kurį juodaodį, kurį mačiau šioje srityje, ir sakydavau: „Sveiki, aš Timnitas“. Aš esu juodaodis numeris antras. Sveiki, juodaodis numeris vienas. Būkime draugais.'
Ar yra būdų, kaip išvengti šališkumo sistemose?
Priežastis, kodėl DI yra labai svarbi įvairovė ne tik duomenų rinkiniuose, bet ir tyrėjams, yra ta, kad jums reikia žmonių, kurie tiesiog turi socialinį supratimą apie tai, kaip viskas yra. Išgyvename AI įvairovės krizę. Be techninių pokalbių, pokalbių apie teisę, pokalbių apie etiką, turime turėti pokalbių apie AI įvairovę. Mums reikia visų rūšių dirbtinio intelekto įvairovės. Ir tai turi būti traktuojama kaip kažkas labai skubaus.
Techniniu požiūriu yra daug skirtingų požiūrių. Vienas iš jų – įvairinti duomenų rinkinį ir turėti daug skirtingų duomenų rinkinio komentarų, pvz., rasės, lyties ir amžiaus. Išmokę modelį, galite jį išbandyti ir pamatyti, kaip gerai jis veikia visuose skirtinguose pogrupiuose. Bet net ir tai padarę, jūsų duomenų rinkinys turi tam tikrą paklaidą. Negalite turėti duomenų rinkinio, kuris puikiai atrinktų visą pasaulį.
Esu labai aistringas ir šiuo metu dirbu siekdamas išsiaiškinti, kaip paskatinti įmones teikti daugiau informacijos vartotojams ar net tyrėjams. Jie turėjo rekomenduoti naudojimo būdą, spąstus, duomenų rinkinio šališkumą ir tt Kad pradėčiau naudoti jūsų paruoštą duomenų rinkinį arba modelį ir įtraukdamas jį į tai, ką darau, bent jau turiu tam tikrų žinių apie galimus spąstus. Šiuo metu esame tokioje vietoje, kaip Laukiniai Vakarai, kur iš tikrųjų neturime daug standartų [dėl], kur skelbti duomenų rinkinius.
Ir tada yra tik keletas dalykų, kuriems šiuo metu tikriausiai neturėtumėte naudoti mašininio mokymosi, ir mes neturime aiškių gairių, kas tai yra. Turėtume pasakyti, kad jei ketinate naudoti mašininį mokymąsi šiai konkrečiai užduočiai, jūsų modelio tikslumas turėtų būti bent X ir šiuo konkrečiu požiūriu jis turėtų būti teisingas. Tam mes taip pat neturime jokių gairių. Dirbtinis intelektas tik dabar pradedamas naudoti kaip įprastas produktas, visur, todėl esame taške, kur mums tikrai reikia pokalbio apie standartizavimą ir naudojimą.
PANAUDOTA TIMTNITO ATLAIKOMA
Kas paskatino jūsų darbą su „Google Street View“ ir kitais demografiniais tyrimais?
Tuo metu, kai pradėjome šį projektą, buvo atlikta labai mažai darbo bandant analizuoti kultūrą naudojant vaizdus. Tačiau žinome, kad internete didžioji dalis mūsų duomenų yra vaizdų pavidalu. Viena iš mūsų motyvų buvo parodyti, kad galite atlikti socialinę analizę naudodami vaizdus.
Tai gali būti labai naudinga tais atvejais, kai gauti apklausos duomenis yra tikrai sunku. Pasaulyje yra vietų, kur nėra infrastruktūros ir nėra išteklių siųsti žmones nuo durų iki durų ir rinkti [surašymo] duomenis, [tačiau kur] būtų supratimas apie skirtingus jūsų šalyje gyvenančių gyventojų tipus. būti labai naudingas.
Bet vėlgi, būtent tai paskatino mane studijuoti sąžiningumą. Nes jei ketinu tęsti šį darbą, tikrai turiu geriau suprasti galimas neigiamas pasekmes. Kokie yra stebėjimo padariniai? Be to, kokios yra duomenų rinkinio šališkumo pasekmės? Bet kokio tipo duomenų gavybos projektuose turėsite šališkumo. Taigi mano darbo sritis iš tikrųjų paskatino mane praleisti šiek tiek laiko sąžiningumo bendruomenėje, kad suprasčiau, kur gali būti spąstų.
Kokias problemas tikitės išspręsti šioje pirmoje sąžiningumo ir skaidrumo konferencijoje?
Tai tikrai pirmoji konferencija, kurioje sprendžiami sąžiningumo, atskaitomybės, etikos ir skaidrumo AI klausimai. Seminarai buvo rengiami kitose konferencijose, o daugiausia – natūralios kalbos apdorojimo konferencijose arba mašininiu mokymusi pagrįstose konferencijose. Labai svarbu turėti atskirą konferenciją, nes ją turi dirbti žmonės iš daugelio disciplinų, kurie kalbasi tarpusavyje.
Mašinų besimokantys žmonės vieni negali išspręsti šios problemos. Kyla skaidrumo problemų; kyla klausimų, kaip reikėtų atnaujinti įstatymus. Jei ketinate kalbėti apie šališkumą sveikatos priežiūros srityje, norite pasikalbėti su [sveikatos priežiūros specialistais] apie tai, kur gali būti šališkumo, ir tada galėsite pagalvoti, kaip turėti mašininiu mokymusi pagrįstą sprendimą.
Kokia jūsų patirtis dirbant su AI?
Tai nelengva. Myliu savo darbą. Man patinka tyrimai, su kuriais dirbu. Aš myliu lauką. Neįsivaizduoju, ką dar šiuo atžvilgiu daryčiau. Tai sakant, labai sunku būti juodaode šioje srityje. Kai pradėjau naudoti Black in AI, pradėjau ją su keliais savo draugais. Prieš tai turėjau nedidelį adresatų sąrašą, kuriame tiesiogine prasme įtraukdavau į adresų sąrašą bet kurį juodaodį, kurį mačiau šioje srityje, ir sakydavau: Sveiki, aš esu Timnitas. Aš esu juodaodis numeris antras. Sveiki, juodaodis numeris vienas. Būkime draugais.
Iš tikrųjų tai tik paspartino [2016 m.], kai nuėjau į NIPS ir kažkas pasakė, kad ten yra maždaug 8 500 žmonių. Suskaičiavau šešis juodaodžius. Aš tiesiogine prasme panikavau. Tik taip galiu apibūdinti, kaip jaučiausi. Mačiau, kad ši sritis eksponentiškai auga ir pasiekė pagrindinę kryptį; tai paliečia kiekvieną visuomenės dalį. Tuo pačiu metu taip pat mačiau daug retorikos apie įvairovę ir tai, kaip daugelis įmonių mano, kad tai svarbu.
Ir aš pamačiau neatitikimą tarp retorikos ir veiksmo. Nes šeši juodaodžiai iš 8500 – tai juokingas skaičius, tiesa? Tai beveik nulis procentų. Man atrodė, kad dabar turime ką nors padaryti. Noriu paraginti žmones, kurie tiki, kad įvairovė yra svarbi. Kadangi tai nepaprastoji padėtis, ir dabar turime ką nors padaryti.