211service.com
Mes nesame pasiruošę dirbtiniam intelektui, sako naujo 1 mln. USD AI prizo laimėtojas
Rachel Wu / MIT CSAIL
Regina Barzilay MIT kompiuterinių mokslų ir dirbtinio intelekto laboratorijos (CSAIL) profesorius yra pirmasis Voverės AI apdovanojimo už dirbtinį intelektą žmonijos labui laureatas – naujo apdovanojimo, kuriuo pripažįstami išskirtiniai dirbtinio intelekto tyrimai. Barzilay savo karjerą pradėjo dirbdama natūralios kalbos apdorojimo srityje. Išgyvenusi krūties vėžį 2014 m., ji sutelkė dėmesį į mašininio mokymosi algoritmai vėžiui nustatyti ir naujų vaistų kūrimui . Apdovanojimą 2021 metų vasarį įteiks Dirbtinio intelekto pažangos asociacija (AAAI).
1 milijono dolerių prizas, kurį suteikė Kinijos internetinė švietimo įmonė „Squirrel AI“. , apie kurį rašėme anksčiau, apdovanojimas prilygsta Nobelio premijai ir Turingo premijai kompiuterių mokslo srityje. Kalbėjausi su Barzilay telefonu apie prizą ir AI pažadą bei nusivylimus.
Mūsų pokalbis buvo redaguotas siekiant ilgumo ir aiškumo.
Sveikiname su šiuo apdovanojimu. Ką tai reiškia jums ir AI apskritai?
Ačiū. Žinote, yra daug sričių, kuriose dirbtinis intelektas vis dar nedaro įtakos, bet gali būti. Mes nuolat naudojame mašininio vertimo ar rekomendacijų sistemas, bet niekas jų nelaiko išgalvotomis technologijomis, niekas apie jas neklausia. Tačiau kitose mūsų gyvenimo srityse, kurios yra labai svarbios mūsų gerovei, pavyzdžiui, sveikatos priežiūrai, AI dar nepripažįsta visuomenės. Tikiuosi, kad šis apdovanojimas ir su juo susijęs dėmesys padės pakeisti žmonių nuomonę ir leis jiems pamatyti galimybes – ir paskatins AI bendruomenę imtis tolesnių veiksmų.
Kokie žingsniai?
Kai technologijos perėjo nuo garo energijos prie elektros, pirmieji bandymai elektrą atnešti į pramonę nebuvo labai sėkmingi, nes žmonės tiesiog bandė atkartoti garo variklius. Manau, kad kažkas panašaus dabar vyksta su AI. Turime išsiaiškinti, kaip tai integruoti į daugybę skirtingų sričių: ne tik sveikatos priežiūrą, bet ir švietimą, medžiagų dizainą, miesto planavimą ir pan. Žinoma, technologijų srityje reikia nuveikti daugiau, įskaitant geresnių algoritmų kūrimą, tačiau mes diegiame šią technologiją į griežtai reguliuojamą aplinką ir tikrai nenagrinėjome, kaip tai padaryti.
Šiuo metu AI klesti tose vietose, kur nesėkmių kaina yra labai maža. Jei „Google“ aptinka neteisingą vertimą arba pateikia neteisingą nuorodą, viskas gerai; galite tiesiog eiti į kitą. Bet gydytojui tai nepadės. Jei pacientams skirsite netinkamą gydymą arba praleidžiate diagnozę, tai gali turėti rimtų pasekmių. Daugelis algoritmų iš tikrųjų gali atlikti dalykus geriau nei žmonės. Tačiau mes visada labiau pasitikime savo intuicija, savo protu, nei tuo, ko nesuprantame. Turime suteikti gydytojams priežasčių pasitikėti AI. FDA nagrinėja šią problemą, bet manau, kad ji toli gražu nėra išspręsta JAV ar bet kur kitur pasaulyje.
2014 metais jums buvo diagnozuotas krūties vėžys. Ar tai pakeitė jūsų požiūrį į savo darbą?
O, taip, visiškai. Vienas iš dalykų, nutikusių, kai gydiausi ir be galo daug laiko praleidau ligoninėje, yra tai, kad dalykai, su kuriais dirbau, dabar atrodė nereikšmingi. Pagalvojau: žmonės kenčia. Mes galime ką nors padaryti.
Kai pradėjau gydytis, paklausiau, kas atsitiks tokiems pacientams kaip aš, su mano naviko tipu, amžiumi ir šiuo gydymu. Jie sakytų: o, buvo šis klinikinis tyrimas, bet jūs nelabai jį atitinkate. Ir aš maniau, kad krūties vėžys yra labai dažna liga. Yra tiek daug pacientų, sukaupta tiek daug duomenų. Kodėl mes jo nenaudojame? Bet jūs negalite lengvai gauti šios informacijos iš sistemos JAV ligoninėse. Jis yra, bet jis yra tekste. Taigi aš pradėjau naudoti NLP, kad jį pasiektuu. Neįsivaizdavau jokios kitos srities, kurioje žmonės savo noru išmeta turimus duomenis. Tačiau tai buvo medicinoje.
Ar ligoninės pasinaudojo galimybe plačiau panaudoti šiuos duomenis?
Prireikė šiek tiek laiko, kol susiradau gydytoją, kuris dirbtų su manimi. Sakiau žmonėms, jei turite kokių nors problemų, pabandysiu ją išspręsti. Man nereikia finansavimo. Tiesiog duok man problemą ir duomenis. Tačiau užtrukau, kol susiradau bendradarbių. Žinote, aš nebuvau ypač populiarus personažas.
Iš šio NLP darbo pereinau prie pacientų rizikos numatymo dėl mamografijos, naudodamas vaizdų atpažinimą, kad nuspėtų, ar susirgsite vėžiu, ar ne – kaip jūsų liga gali progresuoti.
Ar šios priemonės būtų pasikeitusios, jei jos būtų turėjusios jums diagnozavus?
absoliučiai. Galime atlikti šiuos dalykus mano mamografijose dar prieš mano diagnozę, ir tai jau buvo – galite aiškiai tai aptikti. Tai nėra kažkoks stebuklas – vėžys neauga nuo vakar dienos iki šiandienos. Tai gana ilgas procesas. Audinyse yra požymių, tačiau žmogaus akis turi ribotą galimybę aptikti labai mažus raštus. Mano atveju tai būtų buvę matoma prieš dvejus metus.
Kodėl gydytojas to nepamatė?
Tai sunki užduotis. Kiekvienoje mammogramoje yra baltų dėmių, kurios gali būti vėžys arba ne, todėl gydytojas turi nuspręsti, kuriai iš šių baltų dėmių reikia atlikti biopsiją. Gydytojas turi suderinti veikimą pagal intuiciją ir pakenkti pacientui, darydamas nereikalingas biopsijas. Tačiau būtent tokį sprendimą duomenimis pagrįstas AI gali padėti priimti daug sistemingiau.
Tai sugrąžina mus prie pasitikėjimo problemos. Ar mums reikia techninio pataisymo, kad įrankiai būtų lengviau paaiškinami, ar reikia šviesti jas naudojančius žmones?
Tai puikus klausimas. Kai kuriuos sprendimus žmogui būtų tikrai nesunku paaiškinti. Jei AI vaizde aptinka vėžį, galite priartinti sritį, į kurią modelis žiūri, kai prognozuoja. Bet jei paprašysite mašinos, kaip mes vis dažniau, padaryti tai, ko žmogus negali, ką tiksliai mašina jums parodys? Tai tarsi šuo, kuris gali užuosti daug geriau nei mes, paaiškindamas, kaip gali ką nors užuosti. Mes tiesiog neturime tokio pajėgumo. Manau, kad mašinoms tampant daug tobulesnėmis, tai yra didelis klausimas. Koks paaiškinimas jus įtikintų, jei pats negalite išspręsti šios užduoties?
Taigi ar turėtume palaukti, kol AI galės visiškai save paaiškinti?
Ne. Pagalvokite, kaip dabar atsakome į gyvenimo ir mirties klausimus. Į daugumą medicininių klausimų, pavyzdžiui, kaip reaguosite į šį gydymą ar vaistus, atsakoma naudojant statistinius modelius, kurie gali sukelti klaidų. Nė vienas iš jų nėra tobulas.
Tas pats ir su AI. Nemanau, kad būtų gerai laukti, kol sukursime tobulą AI. Nemanau, kad tai įvyks artimiausiu metu. Kyla klausimas, kaip panaudoti savo stipriąsias puses ir išvengti silpnybių.
Galiausiai, kodėl AI dar nepadarė didelės įtakos COVID-19?
AI neišspręs visų didelių problemų, kurias turime. Tačiau buvo keletas mažų pavyzdžių. Kai anksčiau šiais metais buvo sumažintos visos neesminės klinikinės paslaugos, naudojome AI įrankį, kad nustatytų, kurie onkologiniai pacientai Bostone vis tiek turėtų vykti ir atlikti kasmetinę mamografiją.
Tačiau pagrindinė priežastis, dėl kurios dirbtinis intelektas nebuvo naudingesnis, yra ne technologijų, o duomenų trūkumas. Žinote, aš priklausau MIT J-Clinic, sveikatos priežiūros dirbtinio intelekto centro, vadovų komandai, o balandį daugelis mūsų sakė: mes tikrai norime ką nors padaryti – kur galime gauti duomenis? Bet mes negalėjome to gauti. Tai buvo neįmanoma. Net ir dabar, praėjus šešiems mėnesiams, neaišku, kaip gauname duomenis.
Antra priežastis yra ta, kad mes nebuvome pasiruošę. Net įprastomis aplinkybėmis, kai žmonės nepatiria streso, sunku pritaikyti dirbtinio intelekto įrankius į procesą ir užtikrinti, kad visa tai būtų tinkamai reguliuojama. Dabartinės krizės metu mes tiesiog neturime tokių galimybių.
Žinote, aš suprantu, kodėl gydytojai yra konservatyvūs: žmonių gyvybė yra ant ribos. Tačiau aš tikiuosi, kad tai bus pažadinimo skambutis, kad esame nepasiruošę greitai reaguoti į naujas grėsmes. Kad ir kaip manau, kad AI yra ateities technologija, nebent išsiaiškinsime, kaip ja pasitikėti, nematysime, kad ji judės į priekį.