Mašininio mokymosi algoritmas gali parodyti, ar valstybės paslaptys yra tinkamai įslaptintos

JAV valstybės departamentas kasmet sugeneruoja apie du milijardus el. laiškų. Didelėje jų dalyje yra neskelbtinos arba slaptos informacijos, todėl jos turi būti įslaptintos, o tai daug laiko reikalaujantis ir brangus procesas. Vien 2015 metais įslaptintai informacijai apsaugoti išleido 16 mlrd.

Tačiau šio klasifikavimo proceso patikimumas neaiškus. Niekas nežino, ar informacijos įslaptinimo taisyklės taikomos nuosekliai ir patikimai. Iš tiesų, kyla rimtų ginčų dėl to, kas yra informacija, kuri turėtų būti įslaptinta.

Be to, nesunku įsivaizduoti, kad klaidingai įslaptinant oficialias paslaptis didelę reikšmę turi žmogiškosios klaidos. Tačiau niekas nežino, kokios reikšmingos gali būti šios klaidos.

Šiandien tai pasikeičia dėl Renato Rocha Souza darbo Brazilijos minčių centre Fundação Getulio Vargas Rio de Žaneire ir kolegų iš Kolumbijos universiteto Niujorke. Šie vaikinai naudojo mašininio mokymosi algoritmą, kad ištirtų daugiau nei milijoną išslaptintų 1970-ųjų Valstybės departamento kabelių.

Jų darbas suteikia precedento neturintį supratimą apie oficialių paslapčių pobūdį, kaip žmonės taiko taisykles ir kaip dažnai į procesą įsivelia klaidos, atskleidžiančios neskelbtiną informaciją ar slepiančios kitaip nekenksmingas detales. Algoritmai taip pat atskleidžia įtartinus kabelių dingimo modelius.

Komanda pradėjo nuo milijono kabelių, kuriuos jie atsisiuntė iš JAV nacionalinio archyvo XML failų pavidalu. Kiekvienas kabelis yra tekstinis pranešimas, kuriuo keičiasi Valstybės departamentas ir diplomatinė atstovybė užsienio šalyje, pavyzdžiui, ambasada ar konsulatas.

Kabeliai pažymėti kaip slapti, konfidencialūs, riboto oficialaus naudojimo arba kaip neįslaptinti. Slapta informacija apibrėžiama kaip galinti rimtai pakenkti nacionaliniam saugumui, konfidenciali informacija apibrėžiama kaip galinti padaryti žalos, bet ne didesnė. Riboto oficialaus naudojimo kategorija buvo neapibrėžta aštuntajame dešimtmetyje ir net šiandien tebėra prieštaringa.

Kabeliuose taip pat yra kitos informacijos. Kiekviena žinutė turi datą, siuntėją ir gavėją, temą ir, žinoma, žinutės tekstą.

Souza ir bendradarbiai naudojo įvairius mašininio mokymosi metodus, kad nustatytų, kaip šie veiksniai koreliuoja su klasifikavimo etikete. Ir atradę šią koreliaciją, jie išbandė algoritmą, kad sužinotų, kaip gerai jis gali numatyti, ar tam tikras kabelis buvo klasifikuojamas, ar ne.

Rezultatai leidžia įdomiai skaityti. Souza ir kiti teigia, kad pats pranešimas yra geriausias kabelio įslaptinimo rodiklis. Pasak jų, iš visų savybių santykinis skirtingų žodžių dažnis kūne buvo naudingiausias nustatant jautrią informaciją. Siuntėjo ir gavėjo duomenys taip pat yra geras jautrumo lygio rodiklis, tačiau pagal algoritmą galima klasifikuoti daugybę kabelių, kurie nebuvo klasifikuojami kaip buvę. Kitaip tariant, tai lemia didelį klaidingų teigiamų rezultatų skaičių.

Kai mašininio mokymosi algoritmas priimdamas sprendimus sujungia įvairius metaduomenis, jis gali aptikti apie 90 procentų įslaptintų kabelių, o klaidingų teigiamų rezultatų rodiklis yra tik 11 procentų. Souza ir bendradarbiai teigia, kad turėtų būti įmanoma padaryti geriau, jei būtų įtraukti kabeliai, kurie vis dar yra klasifikuojami.

Klaidingi teigiami ir klaidingi neigiami dalykai yra įdomūs. Tai yra kabeliai, kuriuos mašina numatė klasifikuoti, bet nebuvo klasifikuoti ir atvirkščiai. Daugeliu atvejų mašina atskleidė kabelius, kuriuos žmonės neteisingai klasifikavo. Vienas iš pavyzdžių yra pranešimas apie Japonijos vyriausybės jautrumą JAV atliekamiems branduolinių objektų patikrinimams. Šis kabelis buvo neklasifikuotas, bet turėjo būti, nes tekstas atskleidžia, kad iš pradžių jis buvo konfidencialus, teigia mokslininkai.

Vienas iš duomenų apribojimų yra tai, kad daugelis kabelių buvo prarasti, tariamai dėl problemų konvertuojant juos į elektroninį formatą. Galbūt įdomiausias šio darbo aspektas yra tai, kad galima daryti prielaidą, kad šie pranešimai galėjo dingti dėl kitų priežasčių.

Vienas iš užuominų yra pranešimų dingimo greitis, kuris skiriasi klasifikuotų ir neklasifikuotų kabelių atveju. Tikimybė, kad elektroniniai pranešimai, klasifikuojami kaip „Slapti“, dings, buvo daugiau nei tris kartus dažniau dingę, palyginti su neįslaptintais ir riboto oficialaus naudojimo pranešimais, sako Souza ir kt.

Be to, su laidais susiję metaduomenys dažnai išlieka, kai prarandamas elektroninis pranešimas. Kaip tai galėjo atsitikti, yra galvosūkis.

Be to, jei pranešimai būtų prarasti konvertuojant iš vieno formato į kitą, greičiausiai jie dingtų Valstybės departamentui įdiegus naują duomenų saugojimo sistemą. Pažymėtina, kad dauguma šių [trūkstamų] kabelių nėra datuojami tada, kai Valstybės departamentas pirmą kartą sukūrė sistemą, o tai būtų buvę trikčių šalinimo būdai, kaip patikimai perkelti duomenis iš vienos aparatinės ir programinės įrangos platformų, teigia komanda.

Darbas turi svarbių pasekmių skaidrumo ir slaptumo pusiausvyrai. Mašinos gali aiškiai padėti stebėti duomenų klasifikavimo praktiką. Tačiau jie negali to padaryti vidutiniškai geriau nei duomenų bazės, iš kurių mokosi. Jei juose yra klaidų, kaip aiškiai daro Valstybės departamento laidai, mašinos neišvengiamai bus įstrigusios.

Tačiau įdomus klausimas, ar duomenys, kuriuos atskleidžia toks mašininis mokymasis, turėtų būti klasifikuojami, jei jie atskleidžia elgesio modelius, kurie gali pakenkti nacionaliniams interesams. Pavyzdžiui, greitis, kuriuo konfidenciali informacija klaidingai pažymėta kaip neįslaptinta, gali būti naudinga užsienio galiai, bandančiai rinkti įslaptintą informaciją iš neįslaptintų kabelių.

Akivaizdu, kad dar reikia nuveikti. Souza ir bendradarbiai teigia, kad nepaisant didžiulių Valstybės departamento išlaidų įslaptintos informacijos apsaugai, yra mažai arba visai nėra paskelbtų tyrimų apie klasifikavimo nuoseklumą. Taip pat nėra daug supratimo, kiek toks mašininis mokymasis gali atskleisti.

Galbūt visas šis darbas atliekamas už uždarų durų. Kita vertus, gal ir ne.

Nuoroda: arxiv.org/abs/1611.00356 : Dirbtinio intelekto naudojimas valstybės paslaptims nustatyti

paslėpti