Popolnoma avtonomna vozila so prihodnost prometa, so pa novejši modeli avtomobilov že danes opremljeni s kopico kamer in senzorjev, ki avtomobilu pomagajo pri zaznavi okolice in temu ustrezno prilagajajo vožnjo.
Tesla vso to tehnologijo imenuje “avtopilot” (ang. Autopilot), kar je nekoliko neposrečeno ime, saj ne gre za pravi avtonomni sistem. Avtopilot vključuje asistenco za ohranjanje smeri, samodejno parkiranje in zmožnost samodejne menjave voznih pasov z voznikovo potrditvijo. Pri asistenci za ohranjanje smeri se avtopilot zanaša na algoritem učenja, ki upravlja avtomobilov računalnik na podlagi podatkov iz kamer, ultrazvočnih senzorjev in radarja.
Avtomobil zmedli v sprejemanje napačnih odločitev
Tako poteka proces strojnega učenja za asistenco pri ohranjanju smeri. Vir: Tencent Keen Security Lab
Čeprav so te tehnologije izjemno napredne, pa niso nezmotljive. Raziskovalci iz Tencentovega laboratorija Keen Security Lab so podrobno preučili več avtomatiziranih procesov, ki upravljajo Tesline avtomobile. Na podlagi ugotovitev so ustvarili več metod, s katerimi so prevzeli nadzor nad avtomobilom oziroma ga zmedli v sprejemanje napačnih odločitev.
Ena najbolj presenetljivih ugotovitev je bila ravno pri sistemu za ohranjanje smeri, saj je raziskovalcem z zgolj tremi (prostemu očesu praktično nevidnimi) nalepkami uspelo avtomobil zmesti do te mere, da je zapeljal na nasproti vozeči pas. Nalepke je sistem zaznal kot nadaljevanje voznega pasu, čeprav bi moral “vedeti”, da se na drugi strani nahaja nasproti vozeči pas. Takšne napake nakazujejo na pomanjkanje v arhitekturi algoritma strojnega učenja, na podlagi katerega avtomobil sprejema odločitve.
Prevzeli nadzor nad avtomobilom na daljavo
Raziskovalcem je uspelo tudi napisati aplikacijo, s katero so kar preko telefona nadzirali avtomobil na daljavo ne glede na voznikove vnose preko volana in aktivnost avtopilota. Ta ranljivost naj bi po besedah Teslinih predstavnikov bila odpravljena z najnovejšimi varnostnimi posodobitvami.
Poleg prevzema nadzora nad avtomobilom je raziskovalcem uspelo aktivirati brisalce vetrobranskega stekla, čeprav ni deževalo. Tesla pri svojih avtomobilih za aktivacijo brisalcev uporablja več kamer, ki prenašajo sliko v računalnik, računalnik pa se na podlagi slike odloči, ali je potrebno vklopiti brisalce. Raziskovalci so z vnosom lažne slike enostavno pretentali računalnik v vklop brisalcev, sčasoma pa naj bi bilo možno to narediti tudi s preprosto nalepko, ki bi nalepljena na cestni znak.
Cilj raziskave je bil usmeriti pozornost razvijalcev sistemov za asistenco pri vožnji na zunanje faktorje, ki bi lahko usodno vplivali na sisteme, ter “naučiti” sisteme ločevati prave zunanje spremembe od lažnih.
Uvodna fotografija: WIkimedia Commons
