211service.com
JAV kariuomenė nori, kad jos autonominės mašinos paaiškintų save
Žvalgybos agentai ir kariniai darbuotojai gali labai pasikliauti mašininiu mokymusi, kad analizuotų didžiulius duomenų kiekius ir valdytų augantį autonominių sistemų arsenalą. Tačiau JAV kariuomenė nori įsitikinti, kad tai neleis aklai pasitikėti jokiu algoritmu.
Gynybos pažangių tyrimų projektų agentūra (DARPA), Gynybos departamento padalinys, tyrinėjantis naujas technologijas, finansuoja keletą projektų, kuriais siekiama priversti dirbtinį intelektą pasiaiškinti. Metodai svyruoja nuo papildomų mašininio mokymosi sistemų, skirtų paaiškinimui, pridėjimo iki naujų mašininio mokymosi metodų, apimančių projektavimo išaiškinimą, kūrimo.
Dabar turime šį tikrą AI sprogimą, sako Davidas Gunningas, DARPA programos vadovas, finansuojantis pastangas sukurti dirbtinio intelekto metodus, kuriuose būtų paaiškinta jų samprotavimai. To priežastis daugiausia yra mašininis mokymasis, o ypač gilus mokymasis.
Gilusis mokymasis ir kiti mašininio mokymosi metodai apėmė Silicio slėnį, žymiai pagerindami balso atpažinimą ir vaizdų klasifikavimą, be to, jie naudojami vis daugiau kontekstų, įskaitant tokias sritis kaip teisėsauga ir medicina, kur gali atsirasti klaidų pasekmės. buk rimtas. Tačiau nors gilus mokymasis yra neįtikėtinai geras ieškant duomenų šablonų, gali būti neįmanoma suprasti, kaip jis daro išvadą. Mokymosi procesas matematiškai yra labai sudėtingas ir dažnai nėra būdo to paversti tokiu, ką žmogus suprastų.
Ir nors gilųjį mokymąsi ypač sunku interpretuoti, kiti mašininio mokymosi metodai taip pat gali būti sudėtingi. Gunningas sako, kad šie modeliai yra labai neskaidrūs ir sunkiai suprantami žmonėms, ypač jei jie nėra dirbtinio intelekto ekspertai.
Gilus mokymasis yra ypač paslaptingas dėl savo neįtikėtino sudėtingumo. Tai apytiksliai įkvėpta proceso, kurio metu smegenų neuronai mokosi reaguodami į įvestį. Daugelis modeliuojamų neuronų ir sinapsių sluoksnių yra pažymėti duomenimis ir jų elgesys derinamas tol, kol jie išmoksta atpažinti, tarkime, katę nuotraukoje. Tačiau sistemos išmoktas modelis yra užkoduotas daugelio milijonų neuronų svoriuose, todėl jį labai sunku ištirti. Pavyzdžiui, kai giliai besimokantis tinklas atpažįsta katę, neaišku, ar sistema gali sutelkti dėmesį į ūsus, ausis ar net katės antklodę vaizde.
Dažnai tai gali būti ne taip svarbu, jei mašininio mokymosi modelis yra nepermatomas, tačiau tai netinka žvalgybos pareigūnui, bandančiam nustatyti galimą taikinį. Yra keletas svarbių programų, kuriose jums reikia paaiškinimo, sako Gunningas.
Gunningas priduria, kad kariuomenė kuria daugybę autonominių sistemų, kurios neabejotinai labai priklausys nuo mašininio mokymosi technikų, tokių kaip gilusis mokymasis. Savarankiškai vairuojančios transporto priemonės kartu su dronais ateinančiais metais bus vis dažniau naudojamos, sako jis, ir jie taps vis pajėgesni.
Paaiškinimas svarbus ne tik sprendimams pagrįsti. Tai gali padėti išvengti dalykų, kad viskas klostytųsi blogai. Vaizdų klasifikavimo sistema, kuri išmoko sutelkti dėmesį tik į tekstūrą kačių klasifikavimui, gali būti suklaidinta pūkuoto kilimėlio. Taigi paaiškinimas galėtų padėti tyrėjams padaryti savo sistemas tvirtesnes ir užkirsti kelią tiems, kurie jomis pasitiki, padaryti klaidų.
DARPA finansuoja 13 skirtingų tyrimų grupių, kurios taiko įvairius metodus, kad dirbtinis intelektas būtų aiškiau paaiškinamas.
Viena komanda, atrinkta finansuoti, yra iš Charles River Analytics – įmonės, kurianti aukštųjų technologijų įrankius įvairiems klientams, įskaitant JAV kariuomenę. Ši komanda tiria naujas giluminio mokymosi sistemas, kuriose yra paaiškinimas, pavyzdžiui, tas, kurios išryškina vaizdo sritis, kurios atrodo tinkamiausios klasifikacijai. Tyrėjai taip pat eksperimentuoja su kompiuterių sąsajomis, kurios daro aiškesnį mašininio mokymosi sistemų veikimą naudojant duomenis, vizualizacijas ir net natūralios kalbos paaiškinimus.
Xia Hu , Teksaso A&M universiteto profesorius, vadovaujantis kitai finansavimui atrinktai komandai, sako, kad ši problema svarbi ir kitose srityse, kuriose taikomas mašininis mokymasis, pavyzdžiui, medicinoje, teisėje ir švietime. Be kažkokio paaiškinimo ar samprotavimų domenų ekspertai nepasitikės rezultatais, sako Hu. Tai yra pagrindinė priežastis, kodėl daugelis domenų ekspertų atsisako taikyti mašininį mokymąsi arba gilųjį mokymąsi.