Экспертам удалось обманом заставить Tesla нарушить правила

Компьютер электромобиля Tesla Model S удалось обмануть с помощью заклеенного изолентой дорожного знака. Таким образом можно «обмануть» и другие машины, утверждают специалисты по робототехнике

Исследователи из компании McAfee сообщили, что им удалось обмануть систему круиз-контроля электромобиля Tesla Model S. Они наклеили изоленту на дорожный знак, запрещающий движение со скоростью выше 35 миль в час (около 48 км/ч) таким образом, что цифра «3» стала напоминать «8». В результате компьютер неверно «прочитал» изображение и автоматически увеличил скорость, нарушив ограничение. 

Измененный знак
Измененный знак / mcafee.com

 

McAfee проводила свой эксперимент в течение 18 месяцев. Его результаты говорят о слабостях устанавливаемых в автомобили систем компьютерного зрения, указывает Bloomberg со ссылкой на сотрудника McAfee Стива Половны. Система автомобильных камер Mobileye, которая участвовала в исследовании, используется в более чем 40 млн машин, в том числе Tesla Model X и Tesla Model S

Однако серьезной угрозой для автомобилистов такие проблемы не станут, подчеркивает McAfee. В ходе эксперимента никто не пострадал, а находившийся  в автомобиле человек смог самостоятельно снизить скорость. «Крайне маловероятно, что мы увидим подобное в естественных условиях или что кто-то попробует использовать это для атак, пока мы не будем иметь по-настоящему автономные автомобили. И мы надеемся, что к тому моменту подобные дефекты уже давно будут исправлены», — заявил Половны. 

«Маск побывал в долине смерти и выбрался»: почему акции Tesla за три месяца выросли на 300%

С помощью подобных изменений изображения можно обмануть не только машины, но даже людей, отметил разработчик Mobileye в комментарии для Bloomberg. Компания заявила, что система, которую испытывала McAfee, была предназначена для помощи водителю, а не для автономного передвижения. Tesla на запрос агентства не ответила.

Выявленная проблема может коснуться не только Tesla или системы Mobileye, но и многих других продвинутых систем, устанавливаемых в автомобили с функцией автономного вождения, заявила профессор робототехники в Университете Дьюка Мисси Камминс. «Поэтому это так опасно — не нужно получать доступ к системе, чтобы ее взломать. Достаточно получить доступ к миру, в котором мы находимся», — сказала она.

Дополнительные материалы

Рекордное IPO, грандиозная афера и смерть: главные события в мире миллиардеров за 10 лет