Piratai apgaudinėja Teslą, kad ji pasuktų į ne tą eismo juostą

Kategorija: Dirbtinis intelektas Paskelbta Balandžio 01 d

Piratai turi pademonstravo keletas nerimą keliančių būdų, kaip manipuliuoti ir supainioti įvairias Tesla Model S sistemas. Dramatiškiausias jų žygdarbis: automobilio nukreipimas į priešpriešinio eismo juostą, ant kelio užklijuojant keletą mažų lipdukų.

Atakos vektorius: Tai priešingos atakos pavyzdys, būdas manipuliuoti mašininio mokymosi modeliu įvedant specialiai sukurtą įvestį. Priešingos atakos gali tapti dažnesnės, nes mašininis mokymasis naudojamas plačiau, ypač tokiose srityse kaip tinklo saugumas.

Neryškios linijos: „Tesla“ autopilotas yra pažeidžiamas, nes atpažįsta eismo juostas naudodamas kompiuterinį matymą. Kitaip tariant, sistema remiasi kameros duomenimis, analizuojamais neuroninio tinklo, kad nurodytų transporto priemonei, kaip išlaikyti savo juostos centrą.

Eismo trukdžiai: Tai ne pirmas priešiškas išpuolis prieš autonominio vairavimo sistemą. Dawn Song, UC Berkeley profesorius, naudojo nepavojingai atrodančius lipdukus, kad apgautų savarankiškai važiuojantį automobilį, kad jis manytų, kad „Stop“ ženklas yra greičio apribojimas 45 mylių per valandą. Kitas studijuoti Kovo mėn. paskelbtame tyrime buvo parodyta, kaip medicinos mašininio mokymosi sistemos gali būti apgaudinėjamos nustatant neteisingas diagnozes.

Klaidų pataisymai: Juostos atpažinimo įsilaužimo tyrėjai iš Keen Security Lab Kinijos technologijų milžinė Tencent panaudojo panašią ataką, kad sutrikdytų automobilio automatinius priekinio stiklo valytuvus. Jie taip pat kitu būdu pagrobė automobilio vairą. Tesla atstovas spaudai pasakojo „Forbes“. kad pastarasis pažeidžiamumas buvo ištaisytas naujausiame programinės įrangos atnaujinime. Atstovas spaudai sakė, kad priešiška ataka buvo nereali, nes vairuotojas bet kuriuo metu gali lengvai nepaisyti Autopiloto.