AI sunaudoja daug energijos. Piratai gali priversti jį vartoti daugiau.

Duomenų centras

Taylor Vick / Unsplash



Naujienos: Naujas atakos tipas gali padidinti AI sistemų energijos suvartojimą. Panašiai kaip atsisakymo teikti paslaugas ataka prieš internetą siekia užkimšti tinklą ir padaryti jį netinkamu naudoti, naujoji ataka verčia gilųjį neuroninį tinklą surišti daugiau skaičiavimo išteklių nei reikia ir sulėtinti mąstymo procesą.

Taikinys: Pastaraisiais metais didėjantis susirūpinimas dėl didelių AI modelių brangaus energijos suvartojimo paskatino mokslininkus kurti efektyvesnius neuroninius tinklus. Viena kategorija, žinoma kaip įvesties prisitaikanti kelių išėjimų architektūra, padalija užduotis pagal tai, kaip sunku jas išspręsti. Tada jis išleidžia minimalų skaičių skaičiavimo išteklių, reikalingų kiekvienam išspręsti.



Tarkime, kad turite liūto, žiūrinčio tiesiai į fotoaparatą, nuotrauką su puikiu apšvietimu, ir nuotrauką, kurioje liūtas tupi sudėtingame kraštovaizdyje, iš dalies paslėptas nuo akių. Tradicinis neuroninis tinklas perduos abi nuotraukas per visus sluoksnius ir kiekvienai pažymėti skirtų tiek pat skaičiavimo. Tačiau įvesties adaptyvus kelių išėjimų neuroninis tinklas gali perduoti pirmąją nuotrauką tik per vieną sluoksnį, kol pasieks reikiamą pasitikėjimo slenkstį, kad būtų galima pavadinti ją tuo, kas yra. Tai sumažina modelio anglies pėdsaką, bet taip pat padidina jo greitį ir leidžia jį naudoti mažuose įrenginiuose, pavyzdžiui, išmaniuosiuose telefonuose ir išmaniuosiuose garsiakalbiuose.



Ataka: Tačiau tokio tipo neuroninis tinklas reiškia, kad jei pakeičiate įvestį, pvz., vaizdą, į kurį jis tiekiamas, galite pakeisti, kiek skaičiavimų reikia, kad tai išspręstų. Tai atveria pažeidžiamumą, kurį įsilaužėliai gali išnaudoti, kaip nurodė Merilendo kibernetinio saugumo centro mokslininkai naujame dokumente, kuris pristatomas Tarptautinė mokymosi reprezentacijų konferencija šią savaitę. Pridėję nedidelį triukšmo kiekį prie tinklo įvesties, jie suvokė įvestis kaip sunkesnę ir padidino skaičiavimą.

Kai jie manė, kad užpuolikas turi visą informaciją apie neuroninį tinklą, jie galėjo maksimaliai išnaudoti jo energiją. Kai jie manė, kad užpuolikas neturėjo informacijos, jie vis tiek sugebėjo sulėtinti tinklo apdorojimą ir padidinti energijos suvartojimą 20–80%. Priežastis, kaip nustatė mokslininkai, yra ta, kad atakos gerai perduodamos skirtingų tipų neuroniniuose tinkluose. Pakanka sukurti ataką vienai vaizdų klasifikavimo sistemai, kad sutrikdytų daugelį, sako Yiğitcan Kaya, doktorantė ir popieriaus bendraautorė.

Įspėjimas: Tokio pobūdžio ataka vis dar yra šiek tiek teorinė. Įvesties adaptacinės architektūros dar nėra dažnai naudojamos realaus pasaulio programose. Tačiau mokslininkai mano, kad tai greitai pasikeis nuo pramonės spaudimo diegti lengvesnius neuroninius tinklus, pavyzdžiui, išmaniesiems namams ir kitiems daiktų interneto įrenginiams. Tyrimui pataręs profesorius Tudoras Dumitrašas teigia, kad reikia daugiau dirbti, kad suprastų, kiek tokia grėsmė gali padaryti žalos. Tačiau jis priduria, kad šis dokumentas yra pirmasis žingsnis didinant informuotumą: man svarbu atkreipti žmonių dėmesį į tai, kad tai yra naujas grėsmės modelis, ir tokio pobūdžio atakos gali būti įvykdytos.



paslėpti