„Nvidia“ leidžia pažvelgti į savo savarankiško dirbtinio intelekto juodąją dėžę

Nvidia turi išvystyta savaime valdantis AI, parodantis, kaip jis veikia.

Kaip paaiškinome naujausioje viršelio istorijoje „Tamsi paslaptis AI centre“, kai kurios iš galingiausių turimų mašininio mokymosi metodų sukuria programinę įrangą, kuri yra beveik visiškai nepermatoma, net ją kuriantiems inžinieriams. Todėl metodai, kurie suteikia tam tikrų užuominų apie tai, kaip veikia AI, bus labai svarbūs siekiant sukurti pasitikėjimą technologija, kuri, atrodo, pakeis viską nuo medicinos iki gamybos.

„Nvidia“ teikia lustus, kurie idealiai tinka giliajam mokymuisi – ypač galinga mašininio mokymosi technika (žr. 10 Breakthrough Technologies 2013: Deep Learning ).

„Nvidia“ neuroninio tinklo programinė įranga išryškina sritis, į kurias ji sutelkia dėmesį priimdama vairavimo sprendimus.

Lustų gamintojas taip pat vystėsi sistemos kurie parodo, kaip automobilių gamintojas gali pritaikyti gilų mokymąsi savarankiškam vairavimui. Tai apima automobilį, kuris yra visiškai valdomas gilaus mokymosi algoritmu. Nuostabu, kad transporto priemonės kompiuteriui nėra nustatytos taisyklės, kurių reikia laikytis – jis tiesiog suderina kelių vaizdo kamerų įvestį su žmogaus vairuotojo elgesiu ir pats sugalvoja, kaip jis turėtų važiuoti. Vienintelis trūkumas yra tas, kad sistema yra tokia sudėtinga, kad sunku suprasti, kaip ji iš tikrųjų veikia.

Tačiau „Nvidia“ stengiasi atidaryti šią juodąją dėžę. Jis sukūrė būdą, kaip vizualiai pabrėžti, į ką sistema atkreipia dėmesį. Kaip paaiškinta neseniai paskelbtame popierius , „Nvidia“ tyrėjų sukurta neuroninio tinklo architektūra sukurta taip, kad galėtų išryškinti vaizdo nuotraukos sritis, kurios labiausiai prisideda prie automobilio gilaus neuroninio tinklo veikimo. Stebėtina, kad rezultatai rodo, kad tinklas sutelkia dėmesį į kelių kraštus, juostų ženklinimą ir stovinčius automobilius – būtent tokius dalykus, į kuriuos norėtų atkreipti dėmesį geras žmogus.

Revoliucinga tai, kad mes niekada tiesiogiai nesakėme tinklui rūpintis šiais dalykais, rašė Ursas Mulleris, vyriausiasis Nvidia savarankiškai vairuojančių automobilių architektas. tinklaraščio straipsnis .

Tai nėra išsamus neuroninio tinklo paaiškinimas, bet tai gera pradžia. Kaip sako Mulleris: aš negaliu paaiškinti visko, ką turi padaryti automobilis, bet galiu tai parodyti, o dabar jis gali man parodyti, ko išmoko.

Toks požiūris gali tapti vis svarbesnis, nes gilus mokymasis taikomas beveik bet kuriai problemai, susijusiai su dideliu duomenų kiekiu, įskaitant tokias svarbias sritis kaip medicina, finansai ir karinė žvalgyba.

Keletas akademinių tyrinėtojų taip pat tiria šią problemą. Pavyzdžiui, Jeffas Clune'as Vajomingo universitete ir Charlesas Guestrinas Vašingtono universitete (ir Apple) rado būdų, kaip paryškinti vaizdų dalis, kurias renkasi klasifikavimo sistemos. Ir Tomas Jaakola ir Regina Barzilay MIT kuria būdus, kaip pateikti teksto fragmentus, kurie padėtų paaiškinti išvadas, padarytas remiantis dideliu rašytinių duomenų kiekiu.

Gynybos pažangių projektų tyrimų agentūra (DARPA), kuri atlieka ilgalaikius JAV kariuomenės tyrimus, finansuoja keletą panašių mokslinių tyrimų per programą, kurią ji vadina. Paaiškinamas dirbtinis intelektas (XAI) .

Tačiau, be techninių specifikų, įdomu apsvarstyti, kaip tai palyginti su žmogaus intelektu. Mes darome įvairius dalykus, kurių negalime iki galo paaiškinti, o mūsų sugalvoti paaiškinimai dažnai yra tik apytiksliai arba pasakojimai apie tai, kas vyksta. Atsižvelgiant į šiandienos vis sudėtingesnių mašininio mokymosi metodų neskaidrumą, kada nors galime būti priversti priimti tokius AI paaiškinimus.

(Šaltiniai: Nvidia , Tamsioji dirbtinio intelekto paslaptis, JAV kariuomenė nori, kad jos autonominės mašinos paaiškintų save)

paslėpti