Skaičiavimo galia, reikalinga dirbtiniam intelektui lavinti, dabar auga septynis kartus greičiau nei bet kada anksčiau

Go žaidėjas Ke Jie žaidžia su Google dirbtinio intelekto programa AlphaGo AP

2018 m. OpenAI nustatė, kad skaičiavimo galia, naudojama didžiausiems dirbtinio intelekto modeliams apmokyti, nuo 2012 m. padvigubėjo kas 3,4 mėnesio.

San Franciske įsikūrusi pelno siekianti AI tyrimų laboratorija dabar turi pridėjo naujų duomenų jos analizei. Tai parodo, kaip padvigubėjimas po 2012 m. lyginamas su istoriniu padvigubėjimo laiku nuo lauko pradžios. Nuo 1959 iki 2012 m. sunaudojamos energijos kiekis padvigubėjo kas dvejus metus, stebint Moore'o dėsnį. Tai reiškia, kad šiandien naudojami ištekliai padvigubėja septynis kartus greičiau nei anksčiau.

OpenAI

Šis dramatiškas reikalingų išteklių padidėjimas parodo, kaip brangiai tapo šios srities pasiekimai. Atminkite, kad aukščiau pateikta diagrama rodo logaritminę skalę. Tiesine skale (žemiau) galite aiškiau pamatyti, kaip per pastaruosius septynerius metus skaičiavimo naudojimas išaugo 300 000 kartų.

Diagramoje taip pat nėra kai kurių naujausių laimėjimų, įskaitant didelio masto „Google“ kalbos modelį BERT , OpenAI kalbos modelis GPT-2 arba DeepMind StarCraft II grojantis modelis AlphaStar .

OpenAI

Pastaraisiais metais vis daugiau tyrėjų skambino pavojaus varpais dėl didžiulių gilaus mokymosi išlaidų. Birželio mėnesį Masačusetso universiteto (Amherst) mokslininkų atlikta analizė parodė, kaip šios didėjančios skaičiavimo išlaidos tiesiogiai virsta anglies dvideginio išmetimu.

Savo darbe jie taip pat pažymėjo, kaip ši tendencija apsunkina AI tyrimų privatizavimą, nes tai kenkia akademinių laboratorijų galimybėms konkuruoti su daug išteklių turtingesnėmis privačiomis laboratorijomis.

Reaguodamos į šį didėjantį susirūpinimą, kelios pramonės grupės pateikė rekomendacijas. Alleno dirbtinio intelekto institutas, pelno nesiekianti tyrimų įmonė Sietle, pasiūlė, kad mokslininkai visada skelbtų finansines ir skaičiavimo išlaidas, susijusias su modelių mokymu, kartu su, pavyzdžiui, jų veiklos rezultatais.

Savo tinklaraštyje OpenAI pasiūlė politikos formuotojams padidinti finansavimą akademiniams tyrėjams, kad būtų panaikintas išteklių atotrūkis tarp akademinių ir pramonės laboratorijų.

Pataisymas: Ankstesnėje šio straipsnio versijoje buvo neteisingai nurodyta, kad šiandien padvigubėjimo laikas yra daugiau nei septynis kartus didesnis nei anksčiau. Naudojami ištekliai padvigubėja septynis kartus greičiau, o pats padvigubėjimo laikas yra septintoji dalis prieš tai buvusią kartą.

paslėpti