211service.com
Finansų pasaulis nori atidaryti AI juodąsias dėžes
Galingi mašininio mokymosi metodai pastaraisiais metais užvaldė technologijų pasaulį, labai pagerindami balso ir vaizdo atpažinimą, mašininį vertimą ir daugelį kitų dalykų.
Dabar šie metodai yra pasirengę sugriauti daugybę kitų pramonės šakų, įskaitant finansų pasaulį. Tačiau pažangą gali stabdyti rimta problema: dažnai neįmanoma paaiškinti, kaip šie gilaus mokymosi algoritmai priima sprendimą (žr. Tamsioji paslaptis AI centre).
Adamas Wechelis, „Capital One“ mašininio mokymosi ir duomenų inovacijų viceprezidentas, sako, kad bendrovė norėtų naudoti giluminį mokymąsi visoms funkcijoms, įskaitant sprendimą, kam suteikiama kredito kortelė. Tačiau ji negali to padaryti, nes įstatymai reikalauja, kad įmonės būsimam klientui paaiškintų tokio sprendimo priežastis. Praėjusių metų pabaigoje „Capital One“ sukūrė tyrimų grupę, kuriai vadovavo Wenchelis, siekdama rasti būdų, kaip padaryti šiuos kompiuterinius metodus suprantamesnius.
Mūsų tyrimai yra užtikrinti, kad galėtume išlaikyti aukštą paaiškinamumo kartelę, kai stengiamės kurti šiuos daug pažangesnius ir iš prigimties neskaidresnius modelius, sako jis.
Gilus mokymasis per pastaruosius penkerius metus atsirado kaip galingas būdas imituoti žmogaus suvokimo gebėjimus. Šis metodas apima labai didelio neuroninio tinklo mokymą atpažinti duomenų modelius. Tai laisvai įkvėpta teorijos apie tai, kaip neuronai ir sinapsės palengvina mokymąsi. Nors kiekvienas imituojamas neuronas yra tiesiog matematinė funkcija, dėl šių tarpusavyje susijusių funkcijų sudėtingumo gilaus tinklo samprotavimą labai sunku išpainioti.
Kai kurie kiti mašininio mokymosi metodai, įskaitant tuos, kurie tam tikrais atvejais pranoksta gilųjį mokymąsi, yra daug skaidresni. Tačiau gilų mokymąsi, leidžiantį atlikti sudėtingą finansų pramonei naudingą analizę, gali būti labai sunku ištirti.
Kai kurios naujos įmonės siekia išnaudoti susirūpinimą dėl esamų algoritmų neskaidrumo, žadėdami naudoti skaidresnius metodus (žr. DI pagrindu sukurta kredito formulė gali padėti gauti paskolą ).
Ši problema gali tapti dar svarbesnė per ateinančius kelerius metus, nes vis dažniau bus naudojamas gilus mokymasis ir reguliavimo institucijos atkreips dėmesį į algoritminę atskaitomybę. Nuo kitų metų pagal Bendrąjį duomenų apsaugos reglamentą Europos Sąjunga gali reikalauti, kad bet kuri įmonė galėtų paaiškinti sprendimą, priimtą vienu iš jos algoritmų.
Ši problema taip pat atkreipė dėmesį į Gynybos pažangių tyrimų projektų agentūrą, kuri atlieka tyrimus JAV gynybos departamentui. Praėjusiais metais DARPA pradėjo pastangas finansuoti metodus, kaip mašininį mokymąsi padaryti mažiau neskaidrų (žr. JAV kariškiai nori, kad autonominės mašinos paaiškintų save). 13 projektų, atrinktų finansuoti, rodo įvairius metodus, kaip padaryti algoritmus skaidresnius.
Tikimasi, kad gilus mokymasis gali būti naudojamas ne tik žmogaus suvokimo gebėjimų atitikimui. Pavyzdžiui, kredito kortelių įmonė gali perduoti kredito istoriją ir kitus finansinius duomenis į gilų tinklą ir išmokyti jį atpažinti žmones, kurie gali nevykdyti mokėjimų kredito kortele.
„Capital One“ taip pat žiūri į gilų mokymąsi kaip į būdą automatiškai patikimiau aptikti nesąžiningus mokesčius, sako Wenchelis, nors bendrovė yra atsargi pasitikėti tokia sistema, kai negalima ištirti jos motyvų. Mes dirbame griežtai reguliuojamoje pramonėje, sako jis. Turime sugebėti paaiškinti tiek viduje, tiek žmonėms, kodėl priimame sprendimus. Ir įsitikinkite, kad priimame sprendimus dėl tinkamų priežasčių.
Gilus mokymasis šiuo metu yra labai populiarus žodis, o kompiuterinio matymo ir natūralios kalbos apdorojimo srityje padaryta didelė pažanga, sakoma. Trevoras Darrellas , UC Berkeley profesorius, vadovaujantis vienam iš projektų, atrinktų finansuoti iš DARPA. Tačiau [gilaus mokymosi sistemos] yra kritikuojamos, nes kartais sunku suprasti, kas jose vyksta.
DARPA projektui Darrell grupė kuria keletą naujų giluminio mokymosi metodų, įskaitant sudėtingesnius giluminius tinklus, galinčius vienu metu mokytis kelių dalykų. Taip pat yra būdų, į kuriuos įtraukiamas paaiškinimas į mokymo duomenis: pavyzdžiui, vaizdų antraštės atveju vaizdas, klasifikuojamas kaip katė, būtų susietas su paaiškinimu, kodėl jis buvo priskirtas tokiai kategorijai. Tas pats metodas gali būti naudojamas kreditinių kortelių mokesčius klasifikuojant kaip nesąžiningus. Visi šie dalykai veda mus prie labiau interpretuojamų gilių tinklų, sako Darrellas.