AI kibernetiniam saugumui yra naujas karštas dalykas ir pavojingas lošimas

Kodo vaizdas, perdengtas ant nešiojamojo kompiuterio klaviatūros rankų nuotraukos Atskleiskite purslą

Kai šią savaitę Las Vegase vykusioje didžiulėje kibernetinio saugumo konferencijoje „Black Hat“ vaikščiojau po parodą, mane pribloškė daugybė įmonių, besigiriančių, kaip jos naudoja mašininį mokymąsi ir dirbtinį intelektą, kad pasaulis taptų saugesnis.

Tačiau kai kurie ekspertai nerimauja, kad pardavėjai neskiria pakankamai dėmesio rizikai, susijusiai su dideliu pasitikėjimu šiomis technologijomis. Tai, kas vyksta, kelia šiek tiek nerimo, o kai kuriais atvejais net pavojinga, perspėja Raffaelis Marty iš saugos įmonės „Forcepoint“.

Saugumo pramonės algoritmų alkis yra suprantamas. Ji susiduria su kibernetinių atakų cunamis, kai sparčiai auga įrenginių, prijungtų prie interneto, skaičius. Tuo pačiu metu labai trūksta kvalifikuotų kibernetinių darbuotojų (žr. naują klastingą kibernetinio saugumo grėsmę: darbo jėgos įtampą).

Naudojant mašininį mokymąsi ir dirbtinį intelektą, siekiant padėti automatizuoti grėsmių aptikimą ir reagavimą, galima palengvinti darbuotojų naštą ir galbūt padėti nustatyti grėsmes veiksmingiau nei kiti programine įranga pagrįsti metodai.

Duomenų pavojai

Tačiau Marty ir kai kurie kiti, kalbėję „Black Hat“, teigia, kad daugelis firmų dabar diegia mašininiu mokymusi pagrįstus produktus, nes mano, kad turi tai padaryti, kad pritrauktų auditoriją tarp klientų, kurie pirko dirbtinio intelekto ažiotažą. Ir yra pavojus, kad jie nepastebės būdų, kaip mašininio mokymosi algoritmai gali sukurti klaidingą saugumo jausmą.

Daugelis pristatomų produktų apima prižiūrimą mokymąsi, todėl įmonės turi pasirinkti ir pažymėti duomenų rinkinius, pagal kuriuos apmokomi algoritmai, pavyzdžiui, žymėdami kodą, kuris yra kenkėjiška programa, ir kodą, kuris yra švarus.

Marty teigia, kad viena rizika yra ta, kad įmonės, skubėdamos tiekti savo produktus į rinką, naudoja mokymų informaciją, kuri nebuvo kruopščiai išvalyta nuo anomalių duomenų taškų. Dėl to algoritmas gali praleisti kai kurias atakas. Kitas dalykas, kad įsilaužėliai, gaunantys prieigą prie saugos įmonės sistemų, gali sugadinti duomenis pakeisdami etiketes, kad kai kurie kenkėjiškų programų pavyzdžiai būtų pažymėti kaip švarus kodas.

Blogiams net nereikia klastoti duomenų; Vietoj to jie galėtų išsiaiškinti kodo, kurį modelis naudoja kenkėjiškoms programoms pažymėti, ypatybes ir pašalinti jas iš savo kenkėjiško kodo, kad algoritmas jo nepagautų.

Vienas prieš daugelį

Konferencijos sesijoje Holly Stewart ir Jugal Parikh iš „Microsoft“ pažymėjo, kad gali būti per daug pasikliaujama vienu pagrindiniu algoritmu, skirtu valdyti apsaugos sistemą. Kyla pavojus, kad jei šis algoritmas bus pažeistas, nebus jokio kito signalo, kuris reikštų jo problemą.

Siekdama apsisaugoti nuo to, Microsoft Windows Defender apsaugos nuo grėsmių paslauga naudoja įvairius algoritmus su skirtingais treniruočių duomenų rinkiniais ir funkcijomis. Taigi, jei vienas algoritmas bus nulaužtas, kitų rezultatai, darant prielaidą, kad jų vientisumas taip pat nebuvo pažeistas, išryškins pirmojo modelio anomaliją.

Be šių klausimų. Forcepoint's Marty pažymi, kad naudojant kai kuriuos labai sudėtingus algoritmus gali būti tikrai sunku išsiaiškinti, kodėl jie iš tikrųjų išspjauna tam tikrus atsakymus. Dėl šios paaiškinimo problemos gali būti sunku įvertinti, kas lemia bet kokias iškylančias anomalijas (žr. „Tamsi paslaptis AI centre“).

Visa tai nereiškia, kad AI ir mašininis mokymasis neturėtų turėti svarbaus vaidmens gynybiniame arsenale. Marty ir kiti pranešė, kad saugos įmonėms ir jų klientams tikrai svarbu stebėti ir sumažinti su algoritminiais modeliais susijusią riziką.

Tai nemenkas iššūkis, atsižvelgiant į tai, kad žmonės, puikiai išmanantys kibernetinio saugumo ir duomenų mokslo patirtį, vis dar yra tokie reti kaip vėsi diena Las Vegaso vasarą.

paslėpti