211service.com
Technikos milžinai kovoja su etiniais rūpesčiais, kuriuos iškėlė AI bumo
Su didele galia atsiranda didžiulė atsakomybė, o dirbtinio intelekto technologija tampa daug galingesnė. Įmonės, kurios yra mašininio mokymosi ir dirbtinio intelekto kūrimo ir diegimo avangardas, dabar pradeda atvirai kalbėti apie etinius iššūkius, kuriuos iškelia jų vis protingesni kūriniai.
Esame DI vingio taške, sakė Ericas Horvitzas, „Microsoft Research“ generalinis direktorius. MIT technologijų apžvalga „EmTech“ konferencija šią savaitę. Turime etinę būtinybę panaudoti dirbtinį intelektą, kad laikui bėgant būtų apsaugotos ir išsaugotos.
Horvitzas kalbėjo kartu su IBM ir Google tyrėjais, svarstančiais panašias problemas. Vienas bendras susirūpinimas buvo tas, kad dėl pastarojo meto pažangos įmonės sukuria programinę įrangą, kuri labai tiesiogiai valdo žmones, pavyzdžiui, sveikatos priežiūros srityje.
Francesca Rossi IBM tyrėjas pateikė mašinos, teikiančios pagalbą ar draugystę pagyvenusiems žmonėms, pavyzdį. Šis robotas turės laikytis kultūrinių normų, kurios yra būdingos kultūrai ir konkrečioms užduotims, sakė ji. [Ir] jei dislokuotų JAV ar Japonijoje, toks elgesys turėtų būti labai skirtingas.
Tokie robotai vis dar gali būti toli, tačiau AI keliami etiniai iššūkiai jau čia. Kadangi įmonės ir vyriausybės priimdamos sprendimus labiau pasikliauja mašininio mokymosi sistemomis, technologijos aklosios dėmės arba šališkumas gali veiksmingai paskatinti tam tikrų tipų žmonių diskriminaciją.
Pavyzdžiui, praėjusiais metais atliktas „ProPublica“ tyrimas parodė, kad rizikos balų sistema, naudojama kai kuriose valstybėse informuojant apie nuosprendžius. nusiteikęs prieš juodaodžius . Panašiai Horvitzas apibūdino, kaip „Microsoft“ sukurta emocijų atpažinimo paslauga, skirta įmonėms, iš pradžių buvo netiksli mažiems vaikams, nes buvo apmokyta naudojant netinkamai sutvarkytą nuotraukų krepšį.
Maya Gupta, „Google“ tyrėja, paragino pramonę labiau dirbti kuriant procesus, siekiant užtikrinti, kad algoritmams mokyti naudojami duomenys nebūtų iškreipti. Daug kartų šie duomenų rinkiniai yra kuriami šiek tiek automatizuotu būdu, sakė Gupta. Turime daugiau pagalvoti, ar pakankamai paimame atranką iš mažumų grupių, kad įsitikintume, jog atlikome pakankamai gerą darbą?
Praėjusiais metais akademinėje bendruomenėje ir pramonėje atsirado daug pastangų tirti etinius mašininio mokymosi ir AI iššūkius. Kalifornijos universitetas, Berklis; Harvardas; ir visi Oksfordo ir Kembridžo universitetai pradėjo programas arba institutus, skirtus dirbtinio intelekto etikos ir saugos klausimais. 2016 m. „Amazon“, „Microsoft“, „Google“, IBM ir „Facebook“ kartu įkūrė ne pelno siekiančią organizaciją Partnerystė dėl AI išspręsti problemą („Apple“ prisijungė sausio mėn.).
Įmonės taip pat imasi individualių veiksmų, kad sukurtų savo technologijų apsaugos priemones. Gupta pabrėžė „Google“ atliekamus tyrimus, kuriais bandoma ištaisyti šališkus mašininio mokymosi modelius arba neleisti jiems iškreipti. Horvitzas apibūdino „Microsoft“ vidinę AI etikos tarybą, pavadintą AETHER, kurioje atsižvelgiama į tokius dalykus kaip nauji sprendimų algoritmai, sukurti bendrovės debesyje teikiamoms paslaugoms. Nors šiuo metu įmonėje dirba „Microsoft“ darbuotojai, ateityje įmonė tikisi pridėti ir pašalinių balsų. „Google“ įkūrė savo AI etikos tarybą.
Galbūt nenuostabu, kad tokias programas kuriančios įmonės paprastai teigia, kad jos pašalina naujų dirbtinio intelekto vyriausybės reguliavimo formų poreikį. Tačiau įmonėje EmTech Horvitzas taip pat skatino diskutuoti apie kraštutinius rezultatus, dėl kurių kai kurie žmonės gali padaryti priešingą išvadą.
Vasario mėn. jis sušaukė seminarą, kuriame ekspertai išsamiai išdėstė, kaip dirbtinis intelektas gali pakenkti visuomenei, pavyzdžiui, maišydamasis su akcijų rinka ar rinkimų rezultatais. Jei esate iniciatyvus, galite sugalvoti įmanomus rezultatus ir įdiegti mechanizmus, kurie juos sutrikdytų dabar, sakė Horvitzas.
Atrodė, kad tokios kalbos išgąsdino kai kuriuos iš tų, su kuriais jis dalijosi scenoje San Franciske. Gupta iš Google paragino žmones taip pat pagalvoti, kaip kai kurių sprendimų atėmimas iš žmonių rankų galėtų padaryti pasaulį moralesnį nei dabar.
Ji sakė, kad mašinų mokymasis yra kontroliuojamas, tikslus ir išmatuojamas statistiniais duomenimis. Yra tiek daug galimybių siekti teisingumo ir etiškesnių rezultatų.