Paleistis, leidžianti giliai mokytis be specializuotos aparatinės įrangos

Neuroninė magija

Atradimas, paskatinęs Nir Shavit įkurti įmonę, atsirado taip, kaip dauguma atradimų: atsitiktinai. MIT profesorius dirbo prie projekto, skirto atkurti pelės smegenų žemėlapį, ir jam reikėjo pagalbos iš gilaus mokymosi. Nežinodamas, kaip programuoti grafikos plokštes arba GPU, dažniausiai naudojamus giliai besimokančių modelių aparatūros pasirinkimus, jis pasirinko centrinį procesorių arba CPU – patį bendriausią kompiuterio lustą, randamą bet kuriame vidutiniame nešiojamajame kompiuteryje.

Štai ir štai, prisimena Shavit, supratau, kad CPU gali daryti tai, ką daro GPU – jei jis tinkamai užprogramuotas.

Ši įžvalga dabar yra jo startuolio „Neural Magic“ pagrindas, kuris šiandien pristatė pirmąjį produktų rinkinį. Idėja yra leisti bet kuriai įmonei įdiegti giluminio mokymosi modelį be specializuotos aparatinės įrangos. Tai ne tik sumažintų giluminio mokymosi išlaidas, bet ir padarytų AI plačiau prieinamą.

Tai reikštų, kad galėtumėte naudoti neuroninius tinklus daug daugiau mašinų ir dar daugiau esamas mašinos, sako Neilas Thompsonas, MIT kompiuterių mokslo ir dirbtinio intelekto laboratorijos mokslininkas, kuris nedalyvauja nervų magijoje. Jums nereikės naujovinti į kažką ypatingo.

GPU tapo pasirinkta aparatūra giliam mokymuisi daugiausia atsitiktinai. Iš pradžių lustai buvo sukurti taip, kad greitai atvaizduotų grafiką tokiose programose kaip vaizdo žaidimai. Skirtingai nuo procesorių, kuriuose yra nuo keturių iki aštuonių sudėtingų branduolių, skirtų įvairiems skaičiavimams atlikti, GPU turi šimtus paprastų branduolių, galinčių atlikti tik tam tikras operacijas, tačiau branduoliai gali atlikti savo operacijas tuo pačiu metu, o ne vienas po kito, todėl sutrumpėja laikas. reikia atlikti intensyvų skaičiavimą.

Nepri Kaip ir grafinis atvaizdavimas, gilus mokymasis apima paprastus matematinius skaičiavimus, atliekamus šimtus tūkstančių kartų. 2011 m., bendradarbiaudama su lustų gamintoja „Nvidia“, „Google“. rasta kad kompiuterinio regėjimo modelis, kurį jis išmokė naudoti 2000 procesorių, kad atskirtų kates nuo žmonių, galėtų pasiekti tokį patį našumą, kai buvo treniruojamas tik su 12 GPU. GPU tapo de facto modelio mokymo ir išvadų lustu – skaičiavimo procesu, kuris vyksta, kai išmokytas modelis naudojamas užduotims, kurioms jis buvo paruoštas.

Tačiau GPU taip pat nėra tobulas giliam mokymuisi. Viena vertus, jie negali veikti kaip atskiras lustas. Kadangi jų atliekamų operacijų tipai yra riboti, jie turi būti prijungti prie procesorių, kad būtų galima tvarkyti visa kita. GPU taip pat turi ribotą talpyklos atmintį, duomenų saugojimo sritį, esančią arčiausiai lusto procesorių. Tai reiškia, kad didžioji duomenų dalis yra saugoma ne lustoje ir turi būti nuskaityta, kai ateina laikas juos apdoroti. Duomenų srautas pirmyn ir atgal tampa kliūtimi skaičiuojant, o tai riboja greitį, kuriuo GPU gali vykdyti gilaus mokymosi algoritmus.

Neural Magic biuras.

NEURALINĖ MAGIJA

Pastaraisiais metais, dešimtys įmonių sugalvojo sukurti AI lustus, kurie apeina šias problemas. Bėda ta, kad kuo labiau specializuota techninė įranga, tuo ji brangesnė.

Taigi Neural Magic ketina panaikinti šią tendenciją. Užuot tvarkydama aparatinę įrangą, įmonė pakeitė programinę įrangą. Jis perkūrė gilaus mokymosi algoritmus, kad efektyviau veiktų CPU, naudojant didelę lustų atmintį ir sudėtingus branduolius. Nors šis metodas praranda greitį, pasiektą dėl GPU lygiagretinimo, pranešama, kad jis atgauna maždaug tiek pat laiko, nes nebereikia perkelti duomenų į lustą ir iš jo. Bendrovė teigia, kad algoritmai gali veikti CPU esant GPU greičiui, tačiau už nedidelę kainą. Panašu, kad tai, ką jie padarė, yra sugalvojęs būdą, kaip pasinaudoti procesoriaus atmintimi taip, kaip anksčiau žmonės to nedarė, sako Thompsonas.

Neural Magic mano, kad gali būti keletas priežasčių, kodėl niekas anksčiau nesiėmė tokio požiūrio. Pirma, tai prieštaringa. Idėja, kad giliam mokymuisi reikia specializuotos aparatinės įrangos, yra taip įsišaknijusi, kad kiti metodai gali būti lengvai nepastebėti. Antra, dirbtinio intelekto taikymas pramonėje vis dar yra palyginti naujas dalykas, o įmonės tik pradeda ieškoti paprastesnių gilaus mokymosi algoritmų diegimo būdų. Tačiau vis dar neaišku, ar paklausa yra pakankamai didelė, kad „Neural Magic“ galėtų kilti. Įmonė išbandė savo produkto beta versiją su maždaug 10 įmonių – tai tik dalis platesnės AI pramonės.

Norime patobulinti ne tik neuroninius tinklus, bet ir apskritai kompiuteriją.

Neilas Thompsonas

Neural Magic šiuo metu siūlo savo techniką, leidžiančią daryti išvadas dėl kompiuterinio regėjimo užduočių. Klientai vis tiek turi mokyti savo modelius naudodami specializuotą aparatinę įrangą, bet tada gali naudoti „Neural Magic“ programinę įrangą, kad konvertuotų apmokytą modelį į su CPU suderinamą formatą. Vienas klientas, stambus mikroskopinės įrangos gamintojas, dabar išbando šį metodą, kad į savo mikroskopus įtrauktų įrenginyje esančias AI galimybes, sako Shavit. Kadangi mikroskopai jau yra su procesoriumi, jiems nereikės jokios papildomos techninės įrangos. Priešingai, naudojant GPU pagrįstą gilaus mokymosi modelį, įranga turėtų būti didesnė ir reikalaujanti daugiau energijos.

Kitas klientas nori naudoti Neural Magic, kad apdorotų apsaugos kamerų filmuotą medžiagą. Tai leistų stebėti eismą į pastatą ir iš jo naudojant jau turimus kompiuterius; kitu atveju gali tekti nusiųsti filmuotą medžiagą į debesį, o tai gali sukelti privatumo problemų, arba įsigyti specialią aparatinę įrangą kiekvienam stebimam pastatui.

Shavit sako, kad išvados taip pat yra tik pradžia. Ateityje „Neural Magic“ planuoja išplėsti savo pasiūlymus, kad padėtų įmonėms traukinys jų AI modeliai taip pat naudojami procesoriuose. Manome, kad po 10–20 metų procesoriai bus tikrasis mechanizmų mokymosi algoritmų vykdymo audinys, sako jis.

Thompsonas nėra toks tikras. Jis sako, kad ekonomika iš tikrųjų pasikeitė lustų gamybos srityje, ir tai lems daug daugiau specializacijos. Be to, nors „Neural Magic“ technika padidina esamos aparatinės įrangos našumą, esminiai aparatinės įrangos patobulinimai vis tiek bus vienintelis būdas tęsti skaičiavimus. Tai skamba kaip tikrai geras būdas pagerinti neuroninių tinklų našumą, sako jis. Tačiau norime patobulinti ne tik neuroninius tinklus, bet ir apskritai kompiuteriją.

paslėpti