Piratai gali apgauti Teslą, kad ji įsibėgėtų 50 mylių per valandą

„Tesla Model S“ važiuoja Kalifornijos įlankos rajone Tesla

Netikėkite savo automobilio melagingomis akimis.

Įsilaužėliai manipuliavo keliais „Tesla“ automobiliais, kad jie įsibėgėtų 50 mylių per valandą. Tyrėjai apgavo automobilio Mobileye EyeQ3 kamerų sistemą subtiliai pakeisdami greitį ribojantį ženklą kelio pusėje taip, kad pro šalį važiuojantis žmogus beveik nepastebėtų.

Tai demonstracija Kibernetinio saugumo įmonės „McAfee“ yra naujausias požymis, kad priešiškas mašinų mokymasis gali sugriauti autonomines vairavimo sistemas, o tai yra saugumo iššūkis tiems, kurie tikisi komercializuoti šią technologiją.

„Mobileye EyeQ3“ kamerų sistemos nuskaito greičio ribojimo ženklus ir perduoda šią informaciją į autonominio vairavimo funkcijas, tokias kaip „Tesla“ automatinė pastovaus greičio palaikymo sistema, sakė Steve'as Povolny ir Shivangee Trivedi iš „McAfee“ pažangių grėsmių tyrimų komandos.

Tyrėjai ant greičio ribojimo ženklo priklijavo mažytį ir beveik nepastebimą lipduką. Kamera nuskaitė ženklą kaip 85, o ne 35, o bandymų metu tiek 2016 m. Tesla Model X, tiek tų metų Model S įsibėgėjo 50 mylių per valandą.

Pakeistas greičio ribojimo ženklas „Tesla“ ekrane rodomas kaip 85. „Mobiyeye“ atstovas sumenkino tyrimą, teigdamas, kad šis ženklas apgaudins žmogų ir perskaityti 85. McAfee

Tai naujausias iš vis gausėjančių tyrimų, rodančių, kaip mašininio mokymosi sistemas galima užpulti ir apgauti gyvybei pavojingose ​​situacijose.

Per 18 mėnesių trukusį tyrimo procesą Trivedi ir Povolny atkartojo ir išplėtė daugybę priešiškų mašininio mokymosi atakų, įskaitant Berklio universiteto profesoriaus Dawn Song tyrimą, kuriame lipdukai buvo naudojami siekiant apgauti savarankiškai važiuojantį automobilį, kad jis patikėtų, kad yra sustojimo ženklas. 45 mylių per valandą greičio ribojimo ženklas. Praėjusiais metais įsilaužėliai apgaule apgavo Teslą, kad ji pasuktų į ne tą eismo juostą, klijuodami lipdukus ant kelio, kad būtų galima manipuliuoti automobilio mašininio mokymosi algoritmais.

Kodėl mes tai tiriame iš anksto, nes jūs turite intelektualias sistemas, kurios kada nors ateityje atliks užduotis, kurias dabar tvarko žmonės, sakė Povolny. Jei nesame labai nuovokūs apie tai, kas yra atakos, ir labai atidžiai žiūrime į tai, kaip sistemos kuriamos, tuomet turėsite nuolatinį tarpusavyje sujungtų kompiuterių parką, kuris yra vienas iš įspūdingiausių ir patraukliausių atakų paviršių.

Daugėjant autonominėms sistemoms, problema apima ir mašininio mokymosi algoritmus, kurie yra toli už transporto priemonių: 2019 m. kovo mėn. studijuoti parodė, kad medicinos mašinų mokymosi sistemos apgavo blogas diagnozes.

„McAfee“ tyrimas praėjusiais metais buvo atskleistas „Tesla“ ir „Mobileye EyeQ3“. „Tesla“ neatsakė į „MIT Technology Review“ prašymą pakomentuoti, tačiau pripažino „McAfee“ išvadas ir teigė, kad problemos nebus išspręstos naudojant tos kartos aparatinę įrangą. „Mobiyeye“ atstovas spaudai sumenkino tyrimą, teigdamas, kad modifikuotas ženklas apgaudins net žmogų, kad jis perskaitytų 85, o ne 35. Bendrovė nemano, kad fotoaparato apgaudinėjimas yra ataka, ir nepaisant vaidmens, kurį kamera atlieka „Tesla“ pastovaus greičio palaikymo sistemoje, jis nebuvo skirtas autonominiam vairavimui.

Autonominė transporto priemonių technologija nesirems vien jutimu, bet bus palaikoma ir įvairių kitų technologijų bei duomenų, pvz., sutelktinio kartografavimo, kad būtų užtikrintas iš kameros jutiklių gaunamos informacijos patikimumas ir patikimesnis perteklius bei saugumas, teigia Mobileye atstovas. sakoma pranešime.

Nuo to laiko „Tesla“ perėjo prie patentuotų naujesnių modelių fotoaparatų, o „Mobileye EyeQ3“ išleido keletą naujų savo kamerų versijų, kurios preliminariais bandymais nebuvo jautrios šiam tikslui atakai.

Vis dar yra daug „Tesla“ automobilių, naudojančių pažeidžiamą techninę įrangą, sakė Povolny. Jis atkreipė dėmesį, kad „Teslas“ su pirmąja aparatinės įrangos versija negali būti atnaujinta į naujesnę aparatinę įrangą.

Tai, ką mes stengiamės padaryti, yra tai, kad mes tikrai stengiamės didinti vartotojų ir pardavėjų supratimą apie galimų trūkumų tipus, sakė Povolny. Mes nesistengiame skleisti baimės ir pasakyti, kad jei vairuosite šį automobilį, įsibėgėti per kliūtį arba sukelti jo sensaciją.

paslėpti