211service.com
Piratai yra tikroji kliūtis savarankiškai važiuojančioms transporto priemonėms
Espenas Fribergas
Prieš išvažiuojant autonominiams sunkvežimiams ir taksi, gamintojai turės išspręsti problemas, daug sudėtingesnes nei susidūrimų išvengimas ir navigacija (žr. 10 Breakthrough Technologies 2017: Self-Driving Trucks).
Šios transporto priemonės turės numatyti ir apsiginti nuo viso spektro piktybinių užpuolikų, vykdančių ir tradicines kibernetines atakas, ir naujos kartos atakas, pagrįstas vadinamuoju priešišku mašininiu mokymusi (žr. AI kovos klubas gali padėti išgelbėti mus nuo itin išmaniųjų kibernetinių atakų ateities). ). Didėjant sutarimui, kad autonominės transporto priemonės telieka tik kelerius metus, kol jos bus naudojamos miestuose kaip robotizuoti taksi ir greitkeliuose, kad būtų sumažintas nuobodulys dėl ilgo nuotolio sunkvežimių, šios atakos rizikos iš esmės trūksta.
Tai man primena daugybę straipsnių, reklamuojančių el. paštą 1990-ųjų pradžioje, prieš tai, kai naujai atrastas elektroninių ryšių pasaulis buvo apipiltas nepageidaujamu el. laišku. Tada mašininio mokymosi pažadas buvo laikomas pasaulio šiukšlių problemų sprendimu. Ir iš tiesų, šiandien šlamšto problema iš esmės išspręsta, tačiau prireikė dešimtmečių, kol mes čia pasiekėme.
Iki šiol nebuvo gauta pranešimų apie priešiškus įsilaužėlius, nusitaikiusius į savarankiškai važiuojančias transporto priemones. Ironiška, tačiau tai yra problema. Piktybiškų užpuolikų nebuvo ir tada, kai 1990-aisiais „dot-com“ startuoliai sukūrė pirmąsias elektroninės prekybos platformas. Po pirmojo didelio elektroninės prekybos įsilaužimo rato Billas Gatesas parašė atmintinę „Microsoft“, reikalaudama, kad įmonė rimtai žiūrėtų į saugumą . Rezultatas: šiandien „Windows“ yra viena saugiausių operacinių sistemų „Microsoft“ kibernetiniam saugumui kasmet išleidžia daugiau nei milijardą dolerių . Nepaisant to, įsilaužėliai nuolat randa problemų su „Windows“ operacinėmis sistemomis, žiniatinklio naršyklėmis ir programomis.
Automobilių įmonės greičiausiai išgyvens panašią progresą. Po to, kai buvo labai susigėdę dėl to, kad visiškai nesirūpino saugumu – devintajame dešimtmetyje sukurta CAN magistralė neturi autentifikavimo koncepcijos – dabar atrodo, kad jie atkreipia dėmesį. Kai įsilaužėliai pademonstravo, kad keliuose važiuojančios transporto priemonės yra pažeidžiamos kelių konkrečių saugumo grėsmių, automobilių gamintojai reagavo atšaukdami ir atnaujindami milijonų automobilių programinę-aparatinę įrangą. Praėjusių metų liepą GM generalinė direktorė Mary Barra sakė, kad automobilių apsauga nuo kibernetinio saugumo incidento yra visuomenės saugumo reikalas.
Tačiau iki šiol dedamos pastangos gali nepastebėti kitos saugumo tendencijos. Kuriamos kompiuterinės vizijos ir susidūrimų išvengimo sistemos, skirtos autonominėms transporto priemonėms, remiasi sudėtingais mašininio mokymosi algoritmais, kurie nėra gerai suprantami net įmonėms, kurios jais remiasi (žr. Tamsioji paslaptis AI centre).
Praėjusių metų CMU mokslininkai tai pademonstravo moderniausius veido atpažinimo algoritmus būtų galima nugalėti užsidėjus skaidrius akinius, ant kurių rėmelių atspausdintas nuostabus raštas. Kažkas modelio pakreipė algoritmą teisingu keliu ir manė, kad mato tai, ko nėra. Mes parodėme, kad užpuolikai gali išvengti naujausių veidų atpažinimo algoritmų, kurie yra pagrįsti neuroniniais tinklais, kad galėtų apsimesti tiksliniu asmeniu arba tiesiog neteisingai identifikuoti, el. laiške rašė pagrindinis tyrėjas Mahmood Sharif.
Taip pat praėjusiais metais Pietų Karolinos universiteto, Kinijos Džedziango universiteto ir Kinijos saugumo firmos Qihoo 360 mokslininkai. tai pademonstravo jie galėtų užstrigti įvairius Tesla S jutiklius, todėl objektai būtų nematomi jo navigacijos sistemai.
Daugelis naujausių straipsnių apie autonominį vairavimą menkina arba net ignoruoja mintį, kad gali būti aktyvių, prisitaikančių ir piktybiškų priešų, bandančių priversti transporto priemones sudužti. Interviu su MIT technologijų apžvalga , Nacionalinės transporto saugos tarybos pirmininkas Christopheris Hartas teigė, kad jis labai optimistiškai nusiteikęs, kad savaeigiai automobiliai sumažins avarijų skaičių šalies keliuose. Aptardamas saugos klausimus, Hartas daugiausia dėmesio skyrė būtinybei programuoti transporto priemones, kad būtų priimti etiški sprendimai, pavyzdžiui, kai 80 000 svarų sveriantis sunkvežimis staiga užkerta kelią automobiliui.
Kodėl kas nors norėtų nulaužti savarankiškai vairuojantį automobilį, žinodamas, kad tai gali baigtis mirtimi? Viena iš priežasčių yra ta, kad dėl plataus autonominių transporto priemonių naudojimo atsiras daug bedarbių, o kai kurie iš jų bus pikti.
2016 m. rugpjūčio mėn. „Ford“ generalinis direktorius Markas Fieldsas pasakė tai jis planavo iki 2021 m. turėti visiškai autonomines transporto priemones, kurios veiktų kaip miesto taksi. „Google“, „Nissan“ ir kiti planavo panašius autonominius automobilius keliuose jau 2020 m. Tie automatizuoti taksi ar pristatymo automobiliai gali būti pažeidžiami piktybiškai apakinti dideliu greičiu. -Galingas lazerinis žymeklis, kurį sukūrė nedirbantis Teamster, buvęs Uber vairuotojas, kuris vis dar turi sumokėti už automobilį, arba tiesiog būrys nuobodžių paauglių.
„Uber“ atstovė spaudai Sarah Abboud, paklausta apie planus kovoti su priešiško mašininio mokymosi grėsme, atsakė: Mūsų saugumo ekspertų komanda nuolat tiria naujas autonominių transporto priemonių ateities apsaugos priemones, įskaitant duomenų vientisumą ir piktnaudžiavimo aptikimą. Tačiau tobulėjant autonominėms technologijoms, tobulėja ir grėsmės modelis, o tai reiškia, kad kai kurios šiandienos saugumo problemos greičiausiai skirsis nuo tų, kurios sprendžiamos tikrai autonominėje aplinkoje.
Prireiks vos kelių nelaimingų atsitikimų, kad sustabdytų transporto priemonių be vairuotojų dislokavimą. Tikriausiai tai netrukdys pažangioms autopiloto sistemoms, tačiau tikėtina, kad tai labai atgrasys nuo visiškai autonominių transporto priemonių diegimo.
Simonas Garfinkelis yra mokslo rašytojas, gyvenantis Arlingtone, Virdžinijoje. Jis kuria naują knygą apie kompiuterijos istoriją.