Vienas iš AI tėvų nerimauja dėl jo ateities

Yoshua Bengio nuotrauka Politechnikos mokykla | Flickr

Yoshua Bengio yra modernaus dirbtinio intelekto didysis meistras.

Šalia Geoffas Hintonas ir Yann LeCun , Bengio garsėja tuo, kad palaiko techniką, vadinamą giluminiu mokymusi, kuri pastaraisiais metais iš akademinio smalsumo tapo viena galingiausių technologijų planetoje.

Gilus mokymasis apima duomenų tiekimą dideliems neuroniniams tinklams, kurie grubiai imituoja žmogaus smegenis, ir pasirodė neįtikėtinai galingas ir efektyvus atliekant įvairias praktines užduotis – nuo ​​balso atpažinimo ir vaizdo klasifikavimo iki savarankiškai važiuojančių automobilių valdymo ir verslo sprendimų automatizavimo.

Bengio atsispyrė bet kurios didelės technologijų įmonės viliojimui. Nors Hintonas ir LeCunas atitinkamai prisijungė prie „Google“ ir „Facebook“, jis lieka nuolatiniu Monrealio universiteto profesoriumi. (Tačiau jis 2016 m. įkūrė „Element AI“ ir sukūrė labai sėkmingą verslą, padėdamas didelėms įmonėms ištirti komercinius AI tyrimų pritaikymus.)

Bengio neseniai MIT renginyje susitiko su „MIT Technology Review“ vyresniuoju AI redaktoriumi Willu Knightu.

Ką manote apie idėją, kad tarp skirtingų šalių vyksta AI lenktynės?

man tai nepatinka. Nemanau, kad tai teisingas būdas.

Galėtume kartu dalyvauti lenktynėse, bet kaip mokslininkas ir žmogus, kuris nori galvoti apie bendrą gėrį, manau, mums geriau galvoti apie tai, kaip sukurti protingesnes mašinas ir užtikrinti, kad dirbtinis intelektas būtų naudojamas žmonių gerovei. kuo daugiau žmonių.

Ar yra būdų, kaip paskatinti didesnį šalių bendradarbiavimą?

Galėtume palengvinti žmonių iš besivystančių šalių atvykimą čia. Šiuo metu tai yra didelė problema. Europoje, JAV ar Kanadoje Afrikos tyrinėtojui labai sunku gauti vizą. Tai loterija, ir labai dažnai jie pasinaudos bet kokia dingstimi, kad atsisakytų prieigos. Tai visiškai nesąžininga. Jiems jau dabar sunku atlikti tyrimus turint mažai išteklių, bet be to, jei jie negali prisijungti prie bendruomenės, manau, kad tai tikrai nesąžininga. Norėdami tam tikru būdu kovoti su tuo, 2020 m. Afrikoje surengsime ICLR konferenciją [didelę AI konferenciją].

Įtraukimas turi būti daugiau nei žodis, kurį sakome, kad atrodytume gerai. Galimybė, kad AI bus naudinga besivystančiame pasaulyje, yra dar didesnė. Jie turi tobulinti technologijas dar labiau nei mes, be to, jų poreikiai skiriasi.

Ar nerimaujate, kad tik kelios AI įmonės Vakaruose ir galbūt Kinijoje dominuoja AI srityje?

Taip, tai dar viena priežastis, kodėl dirbtinio intelekto tyrimuose turime turėti daugiau demokratijos. Tai, kad dirbtinio intelekto tyrimai savaime sukels galios, pinigų ir tyrėjų koncentraciją. Geriausi studentai nori patekti į geriausias įmones. Jie turi daug daugiau pinigų, daug daugiau duomenų. Ir tai nėra sveika. Netgi demokratinėje valstybėje pavojinga, kai per daug valdžios sutelkta keliose rankose.

Buvo daug ginčų dėl AI panaudojimo kariniais tikslais. Kur jūs dėl to laikotės?

Aš labai tvirtai pasisakau prieš.

Netgi nemirtinas AI naudojimas?

Na, aš nenoriu tam užkirsti kelio. Manau, kad robotus žudikus turime padaryti amoralu. Turime pakeisti kultūrą, įskaitant įstatymų ir sutarčių keitimą. Tai gali nueiti ilgą kelią.

Žinoma, jūs niekada to visiškai neužkirsite kelio, o žmonės sako: „Kai kuri nors nesąžininga šalis tuos dalykus sukurs“. Mano atsakymas yra vienas, norime priversti juos jaustis kaltais, kad tai padarė, ir antra, niekas netrukdo mums kurti gynybinės technologijos. Yra didelis skirtumas tarp gynybinių ginklų, kurie naikins dronus, ir puolamųjų ginklų, nukreiptų į žmones. Abu gali naudoti AI.

Ar AI ekspertai neturėtų dirbti su kariuomene, kad tai įvyktų?

Jei jie turėtų tinkamas moralines vertybes, gerai. Tačiau aš visiškai nepasitikiu karinėmis organizacijomis, nes jos linkusios iškelti pareigą prieš moralę. Norėčiau, kad būtų kitaip.

Kuo jus labiausiai džiugina nauji AI tyrimai?

Manau, kad turime atsižvelgti į sunkius AI iššūkius ir nesitenkinti trumpalaikėmis, laipsniškomis pažangomis. Nesakau, kad noriu pamiršti giluminį mokymąsi. Priešingai, aš noriu juo remtis. Tačiau turime turėti galimybę jį išplėsti, kad galėtume daryti tokius dalykus kaip samprotavimas, priežastingumo mokymasis ir pasaulio tyrinėjimas, kad galėtume mokytis ir įgyti informacijos.

Jei tikrai norime priartėti prie žmogaus lygio AI, tai dar vienas žaidimas su kamuoliu. Mums reikia ilgalaikių investicijų, ir aš manau, kad akademinė bendruomenė yra geriausia vieta neštis tą deglą.

Jūs minite priežastinį ryšį, kitaip tariant, suvokiate ne tik duomenų modelius, bet ir kodėl kažkas nutinka. Kodėl tai svarbu ir kodėl taip sunku?

Jei turite gerą priežastinį pasaulio, su kuriuo susiduriate, modelį, galite apibendrinti net ir nepažįstamose situacijose. Tai labai svarbu. Mes, žmonės, galime projektuoti save į situacijas, kurios labai skiriasi nuo mūsų kasdienės patirties. Mašinos ne, nes jos neturi šių priežastinių modelių.

Galime juos pagaminti rankomis, bet to neužtenka. Mums reikia mašinų, galinčių atrasti priežastinius modelius. Tam tikru mastu tai niekada nebus tobula. Mes neturime tobulo priežastinio tikrovės modelio; štai kodėl mes darome daug klaidų. Tačiau mes tai darome daug geriau nei kiti gyvūnai.

Šiuo metu mes tikrai neturime tam gerų algoritmų, bet manau, kad jei pakankamai žmonių dirbs ir laikys tai svarbiu, mes pasistengsime.

paslėpti