AI kovoja su replikacijos krize

Technologijų milžinai dominuoja moksliniuose tyrimuose, tačiau riba tarp tikro proveržio ir produkto demonstravimo gali būti neaiški. Kai kuriems mokslininkams užtenka.





  • Will Douglas Heaven archyvo puslapis
2020 m. lapkričio 12 d

Praėjusį mėnesį Nature paskelbė a smerkiantis atsakymas parašė 31 mokslininkas a „Google Health“ atliktas tyrimas kuris žurnale pasirodė šių metų pradžioje. „Google“ apibūdino sėkmingus AI bandymus, kuriuose medicininėse nuotraukose buvo ieškoma krūties vėžio požymių. Tačiau, pasak jos kritikų, „Google“ komanda pateikė tiek mažai informacijos apie savo kodą ir kaip jis buvo išbandytas, kad tyrimas buvo ne kas kita, kaip patentuotų technologijų reklama.

Nebegalėjome to ištverti, sako Benjaminas Haibe-Kainsas, pagrindinis atsakymo autorius, Toronto universitete studijuojantis skaičiavimo genomiką. Kalbama ne apie šį tyrimą – tai jau kelerius metus stebima tendencija, kuri pradėjo mus varginti.

Haibe-Kainsas ir jo kolegos yra tarp vis daugiau mokslininkų, kurie stoja prieš suvokiamą AI tyrimų skaidrumo trūkumą. Kai pamatėme tą „Google“ dokumentą, supratome, kad tai dar vienas labai aukšto lygio žurnalo, skelbiančio labai jaudinantį tyrimą, neturintį nieko bendra su mokslu, pavyzdys. Tai daugiau šaunių technologijų reklama. Mes tikrai nieko negalime su juo padaryti.



Mokslas yra pagrįstas pasitikėjimo pagrindu, kuris paprastai apima pakankamai informacijos apie tai, kaip atliekami tyrimai, kad kiti galėtų juos pakartoti ir patys patikrinti rezultatus. Taip mokslas savarankiškai pataiso ir pašalina rezultatus, kurie nepasitvirtina. Replikacija taip pat leidžia kitiems remtis šiais rezultatais ir padėti tobulėti šioje srityje. Mokslas, kurio negalima atkartoti, patenka į šalį.

Bent jau tokia mintis. Praktiškai nedaug tyrimų yra visiškai atkartojami, nes dauguma tyrinėtojų yra labiau suinteresuoti gauti naujus rezultatus, o ne atkurti senus. Tačiau tokiose srityse kaip biologija ir fizika ir apskritai kompiuterių mokslas, paprastai tikimasi, kad tyrėjai suteiks informacijos, reikalingos eksperimentams pakartoti, net jei tie kartojimai yra reti.

Ambicingas niekšas

AI jaučia karštį dėl kelių priežasčių. Pradžiai tai naujokas. Tai tik per pastarąjį dešimtmetį tapo eksperimentiniu mokslu, sako skundo bendraautorė Joelle Pineau, Facebook AI tyrimų ir McGill universiteto kompiuterių mokslininkė. Anksčiau tai buvo teorinė, bet vis dažniau vykdome eksperimentus, sako ji. Ir mūsų atsidavimas patikimai metodikai atsilieka nuo mūsų eksperimentų užmojų.



Problema yra ne tik akademinė. Skaidrumo trūkumas neleidžia tinkamai įvertinti naujų AI modelių ir metodų tvirtumo, šališkumo ir saugumo atžvilgiu. AI greitai pereina iš tyrimų laboratorijų į realias programas ir daro tiesioginį poveikį žmonių gyvenimui. Tačiau mašininio mokymosi modeliai, kurie gerai veikia laboratorijoje, gali sugesti laukinėje gamtoje, o tai gali sukelti pavojingų padarinių. Įvairių tyrinėtojų replikavimas skirtingomis aplinkybėmis greičiau atskleistų problemas, todėl dirbtinis intelektas taptų stipresnis visiems.

Susijusi istorija

Bendrasis dirbtinis intelektas: ar esame artimi ir ar net prasminga bandyti?

Mašina, galinti mąstyti kaip žmogus, nuo seniausių laikų buvo pagrindinė AI tyrimų vizija ir tebėra labiausiai skaldanti idėja.

DI jau kenčia nuo juodosios dėžės problemos: gali būti neįmanoma tiksliai pasakyti, kaip ir kodėl mašininio mokymosi modelis duoda tokius rezultatus. Tyrimų skaidrumo trūkumas pablogina situaciją. Dideliems modeliams reikia kuo daugiau akių, kad daugiau žmonių juos išbandytų ir išsiaiškintų, kas juos verčia. Taip sveikatos priežiūros srityje dirbtinis intelektas tampa saugesnis, o dirbtinis intelektas – saugesnis policija teisingesnė , o pokalbių robotai yra mažiau neapykantos.



AI replikacijai taip, kaip turėtų, trukdo tai, kad trūksta prieigos prie trijų dalykų: kodo, duomenų ir aparatinės įrangos. Pagal 2020 m. AI būklės ataskaita , gerai patikrinta kasmetinė šios srities analizė, kurią atliko investuotojai Nathanas Benaichas ir Ianas Hogarthas, tik 15 % AI tyrimų dalijasi savo kodu. Pramonės tyrinėtojai yra didesni pažeidėjai nei tie, kurie yra susiję su universitetais. Visų pirma, ataskaitoje raginama OpenAI ir DeepMind už kodo slaptumą.

Tada didėja atotrūkis tarp turinčių ir neturinčių, kai kalbama apie du AI ramsčius – duomenis ir aparatinę įrangą. Duomenys dažnai yra nuosavybės teise, pavyzdžiui, informacija, kurią „Facebook“ renka apie savo vartotojus, arba neskelbtini, kaip asmeninių medicininių įrašų atveju. Be to, technologijų milžinai atlieka vis daugiau tyrimų apie milžiniškas, brangias kompiuterių grupes, kurias turi nedaug universitetų ar mažesnių įmonių.

Pavyzdžiui, kalbos generatoriaus GPT-3 mokymas manoma, kad kainuos OpenAI nuo 10 iki 12 milijonų dolerių – ir tai tik galutinis modelis, neįskaitant prototipų kūrimo ir mokymo išlaidų. Tikriausiai galėtumėte padauginti šį skaičių bent iš vienos ar dviejų eilučių, sako Benaichas, rizikos kapitalo įmonės, investuojančios į dirbtinio intelekto įmones, įkūrėjas „Air Street Capital“. Tik nedidelė saujelė didelių technologijų įmonių gali sau leisti atlikti tokį darbą, sako jis: niekas kitas negali tiesiog išmesti didžiulių biudžetų šiems eksperimentams.



Pažangos tempas svaigina – kasmet išleidžiama tūkstančiai straipsnių. Tačiau jei mokslininkai nežino, kuriais iš jų pasitikėti, sričiai sunku judėti į priekį. Replikacija leidžia kitiems tyrėjams patikrinti, ar rezultatai nebuvo pasirinkti ir ar nauji AI metodai tikrai veikia taip, kaip aprašyta. Pineau sako, kad vis sunkiau atskirti, kurie rezultatai yra patikimi, o kurie ne.

Ką galima padaryti? Kaip ir daugelis dirbtinio intelekto tyrinėtojų, Pineau skirsto savo laiką universiteto ir įmonių laboratorijoms. Pastaruosius kelerius metus ji buvo varomoji jėga, lėmusi AI tyrimų publikavimo pokyčius. Pavyzdžiui, praėjusiais metais ji padėjo įvesti kontrolinį sąrašą dalykų, kuriuos tyrėjai turi pateikti, įskaitant kodą ir išsamius eksperimentų aprašymus, kai jie pateikia dokumentus NeurIPS, vienai didžiausių AI konferencijų.

Replikacija yra atlygis

Pineau taip pat padėjo pradėti keletą atkuriamumo iššūkių, kuriuose mokslininkai bando pakartoti paskelbtų tyrimų rezultatus. Dalyviai atrenka pranešimus, kurie buvo priimti į konferenciją, ir varžosi, kad pakartotinai atliktų eksperimentus, naudodami pateiktą informaciją. Tačiau vienintelis prizas yra šlovė.

Šis paskatų trūkumas yra kliūtis tokioms pastangoms visuose moksluose, ne tik dirbtinio intelekto srityje. Replikacija yra būtina, tačiau ji nėra atlyginama. Viena išeitis – priversti studentus atlikti darbą. Pastaruosius porą metų Rosemary Ke, Yoshua Bengio įkurto Monrealio tyrimų instituto Mila doktorantė, organizavo atkuriamumo iššūkis kur studentai bando pakartoti studijas, pateiktas NeurIPS kaip savo mašininio mokymosi kurso dalį. Savo ruožtu kai kurios sėkmingos replikacijos yra peržiūrimos ir paskelbtos žurnale ReScience.

Norint atgaminti kitą popierių nuo nulio, reikia įdėti nemažai pastangų, sako Ke. Atkuriamumo iššūkis pripažįsta šias pastangas ir suteikia pagarbą žmonėms, kurie atlieka gerą darbą. Ke ir kiti taip pat skleidžia žinią AI konferencijose per seminarus, skirtus paskatinti tyrėjus padaryti savo darbą skaidresnį. Šiais metais Pineau ir Ke išplėtė atkuriamumo iššūkį septyniose geriausiose AI konferencijose, įskaitant ICML ir ICLR.

Kitas skaidrumo siekis yra Popieriai su kodu projektą, kurį sukūrė dirbtinio intelekto tyrinėtojas Robertas Stojnicas, kai jis buvo Kembridžo universitete. (Stojnicas dabar yra Pineau kolega „Facebook“.) Paleista kaip atskira svetainė, kurioje mokslininkai galėjo susieti tyrimą su su juo naudotu kodu, šiais metais „Papers with Code“ pradėjo bendradarbiavimą su populiariu išankstinio spausdinimo serveriu „arXiv“. Nuo spalio mėnesio visuose mašininio mokymosi straipsniuose apie arXiv yra skyrius „Straipsniai su kodu“, kuris tiesiogiai nukreipiamas į kodą, kurį autoriai nori pateikti. Siekiama, kad dalijimasis taptų norma.

Ar tokios pastangos turi įtakos? Pineau nustatė, kad praėjusiais metais, kai buvo įvestas kontrolinis sąrašas, tyrėjų skaičius, įskaitant kodą su dokumentais, pateiktais NeurIPS, šoktelėjo. nuo mažiau nei 50 % iki maždaug 75 % . Tūkstančiai apžvalgininkų teigia, kad jie naudojo kodą, kad įvertintų pateiktus dokumentus. O atkuriamumo iššūkių dalyvių daugėja.

Prakaitavimas detalėms

Bet tai tik pradžia. Haibe-Kains pažymi, kad vien kodo dažnai nepakanka norint pakartoti eksperimentą. Kuriant AI modelius reikia atlikti daug nedidelių pakeitimų – čia pridėti parametrų, ten koreguoti vertes. Bet kuris iš jų gali skirtis, ar modelis veikia, ar ne. Be metaduomenų, apibūdinančių, kaip modeliai mokomi ir derinami, kodas gali būti nenaudingas. Velnias tikrai slypi detalėse, sako jis.

Taip pat ne visada tiksliai aišku, kokį kodą pirmiausia reikia bendrinti. Daugelis laboratorijų naudoja specialią programinę įrangą savo modeliams paleisti; kartais tai yra nuosavybės teisė. Sunku žinoti, kiek to palaikymo kodo taip pat reikia bendrinti, sako Haibe-Kains.

Pineau dėl tokių kliūčių pernelyg nesijaudina. Ji sako, kad turėtume turėti tikrai didelių lūkesčių dalintis kodu. Dalytis duomenimis yra sudėtingiau, tačiau čia taip pat yra sprendimų. Jei mokslininkai negali pasidalyti savo duomenimis, jie gali duoti nurodymus, kad kiti galėtų kurti panašius duomenų rinkinius. Arba galite naudoti procesą, kai nedideliam skaičiui nepriklausomų auditorių būtų suteikta prieiga prie duomenų, tikrinančių rezultatus visiems kitiems, sako Haibe-Kains.

Aparatinė įranga yra didžiausia problema. Tačiau „DeepMind“ teigia, kad dideli tyrimai, tokie kaip „AlphaGo“ ar GPT-3, turi mažėjimo efektą, kai turtingų laboratorijų išleisti pinigai galiausiai atveda prie rezultatų, naudingų visiems. Dirbtinis intelektas, kuris ankstyvosiose stadijose yra neprieinamas kitiems tyrėjams, nes reikalauja daug skaičiavimo galios, dažnai tampa efektyvesnis, taigi ir prieinamesnis. „AlphaGo Zero“ pranoko pradinį „AlphaGo“, naudodama daug mažiau skaičiavimo išteklių, sako Koray Kavukcuoglu, „DeepMind“ tyrimų viceprezidentas.

Teoriškai tai reiškia, kad net jei replikacija uždelsta, tai bent jau įmanoma. Kavukcuoglu pažymi, kad Gian-Carlo Pascutto, belgas „Mozilla“ programuotojas, laisvalaikiu rašantis šachmatų ir „Go“ programinę įrangą, sugebėjo iš naujo sukurti „AlphaGo Zero“ versiją, pavadintą „Leela Zero“, naudodamas „DeepMind“ savo dokumentuose aprašytus algoritmus. Pineau taip pat mano, kad tokie pavyzdiniai tyrimai kaip AlphaGo ir GPT-3 yra reti. Ji sako, kad dauguma AI tyrimų atliekami kompiuteriais, kurie yra prieinami vidutinei laboratorijai. Ir problema būdinga ne tik AI. Pineau ir Benaichas nurodo dalelių fiziką, kur kai kuriuos eksperimentus galima atlikti tik su brangia įranga, tokia kaip didelis hadronų greitintuvas.

Tačiau fizikos srityje universitetų laboratorijos atlieka bendrus eksperimentus su LHC. Dideli AI eksperimentai paprastai atliekami naudojant aparatinę įrangą, kuri priklauso įmonėms ir yra jų kontroliuojama. Tačiau net ir tai keičiasi, sako Pineau. Pavyzdžiui, grupė „Compute Canada“ kuria skaičiavimo grupes, kad universitetai galėtų vykdyti didelius AI eksperimentus. Kai kurios įmonės, įskaitant „Facebook“, universitetams taip pat suteikia ribotą prieigą prie savo aparatinės įrangos. Tai nėra visiškai ten, sako ji. Tačiau kai kurios durys atsidaro.

Haibe-Kainsas yra mažiau įsitikinęs. Kai jis paprašė „Google Health“ komandos pasidalinti jos vėžio atrankos AI kodu, jam buvo pasakyta, kad reikia atlikti daugiau tyrimų. Komanda pakartoja šį pagrindimą a oficialus atsakymas į Haibe-Kains kritiką, taip pat paskelbtą Nature: Ketiname išsamiai išbandyti savo programinę įrangą prieš naudojant ją klinikinėje aplinkoje, dirbdami kartu su pacientais, paslaugų teikėjais ir reguliavimo institucijomis, siekdami užtikrinti veiksmingumą ir saugumą. Tyrėjai taip pat teigė, kad jie neturėjo leidimo dalytis visais medicininiais duomenimis, kuriuos jie naudoja.

Tai nėra pakankamai gera, sako Haibe-Kains: jei jie nori iš jo sukurti produktą, aš visiškai suprantu, kad jie neatskleis visos informacijos. Tačiau jis mano, kad jei publikuojate moksliniame žurnale ar konferencijoje, turite pareigą išleisti kodą, kurį gali paleisti kiti. Kartais tai gali reikšti, kad reikia bendrinti versiją, kuri yra apmokyta naudojant mažiau duomenų arba naudoja pigesnę aparatinę įrangą. Tai gali duoti blogesnių rezultatų, bet žmonės galės su tuo susitvarkyti. Ribos tarp produkto kūrimo ir tyrimų atlikimo tampa vis miglotesnės, sako Haibe-Kains. Manau, kad kaip laukas pralaimėsime.

Tyrimo įpročiai miršta sunkiai

Jei įmonės bus kritikuojamos dėl leidybos, kodėl tai iš viso daroma? Žinoma, yra tam tikras viešųjų ryšių laipsnis. Tačiau pagrindinė priežastis yra ta, kad geriausiose įmonių laboratorijose dirba mokslininkai iš universitetų. Tam tikru mastu kultūrą tokiose vietose kaip „Facebook AI Research“, „DeepMind“ ir „OpenAI“ formuoja tradiciniai akademiniai įpročiai. Technologijos įmonės taip pat laimi dalyvaudamos platesnėje mokslinių tyrimų bendruomenėje. Visi dideli AI projektai privačiose laboratorijose yra paremti viešųjų tyrimų sluoksniais ir sluoksniais. Ir nedaugelis dirbtinio intelekto tyrinėtojų nepasinaudojo atvirojo kodo mašininio mokymosi įrankiais, tokiais kaip „Facebook“ „PyTorch“ arba „Google“ „TensorFlow“.

Kadangi milžiniškose technologijų įmonėse atliekama daugiau tyrimų, tam tikri kompromisai tarp konkuruojančių verslo ir mokslinių tyrimų poreikių taps neišvengiami. Kyla klausimas, kaip mokslininkai juos naršo. Haibe-Kains norėtų, kad tokie žurnalai kaip „Nature“ suskirstytų tai, ką jie skelbia, į atskirus srautus: viena vertus, atkuriami tyrimai, o iš kitos – technologijų demonstracijos.

Tačiau Pineau yra optimistiškesnis. Nedirbčiau „Facebook“, jei jame nebūtų atviro požiūrio į tyrimus, sako ji.

Kitos didelės įmonių laboratorijos taip pat pabrėžia savo įsipareigojimą siekti skaidrumo. Kavukcuoglu sako, kad mokslinis darbas reikalauja, kad kiti šioje srityje būtų tikrinami ir kartojami. Tai yra esminė mūsų požiūrio į „DeepMind“ tyrimus dalis.

„OpenAI“ išaugo į kažką visiškai kitokio nei tradicinė laboratorija, sako Kayla Wood, bendrovės atstovė. Natūralu, kad tai kelia tam tikrų klausimų. Ji pažymi, kad OpenAI bendradarbiauja su daugiau nei 80 pramonės ir akademinių organizacijų, dalyvaujančių AI partnerystėje, kad galvotų apie ilgalaikes mokslinių tyrimų publikavimo normas.

Pineau mano, kad tai yra kažkas. Ji mano, kad dirbtinio intelekto įmonės demonstruoja trečią būdą atlikti tyrimus kažkur tarp dviejų Haibe-Kainso srautų. Ji prieštarauja privačių dirbtinio intelekto laboratorijų intelektinei produkcijai, pavyzdžiui, farmacijos kompanijų, kurios investuoja milijardus į vaistus ir didžiąją dalį darbo laiko už uždarų durų.

Dar reikia pamatyti ilgalaikį Pineau ir kitų praktikų poveikį. Ar įpročiai pasikeis į gera? Kuo tai turės įtakos AI įsisavinimui ne atliekant tyrimus? Daug kas priklauso nuo DI krypties. Dėl vis didesnių modelių ir duomenų rinkinių tendencijos, kuriai pritaria, pavyzdžiui, OpenAI, daugumai tyrėjų ir toliau taps neprieinami pažangiausi AI. Kita vertus, naujos technikos, pvz modelio suspaudimas ir kelių kadrų mokymasis , galėtų pakeisti šią tendenciją ir leisti daugiau tyrėjų dirbti su mažesniu, efektyvesniu AI.

Bet kuriuo atveju dirbtinio intelekto tyrimuose vis tiek dominuos didelės įmonės. Jei tai daroma teisingai, tai neturi būti blogas dalykas, sako Pineau: AI keičia pokalbį apie tai, kaip veikia pramonės tyrimų laboratorijos. Svarbiausia bus užtikrinti, kad platesnė sritis turėtų galimybę dalyvauti. Kadangi dirbtinio intelekto, nuo kurio labai daug priklauso, patikimumas prasideda nuo pažangiausių laikų.