Исследователи из китайской компании Tencent проверили ПО электрокара Tesla, включая систему автоматизированного вождения Tesla Autopilot, на предмет его уязвимости, обнаружив некорректное поведение автомобиля в некоторых условиях.
Как сообщается, в рамках исследования инженеры использовали автомобиль Tesla Model S 75 с аппаратным обеспечением версии Autopilot 2.5 и программным обеспечением версии 2018.6.1.
В одном из экспериментов исследователи нанесли на асфальт три квадратных наклейки, выстроенные в условную линию таким образом, чтобы она проходила диагонально к текущей полосе движения. Во время испытания алгоритм распознавания разметки принял квадраты за продолжение настоящей линии и, проигнорировав дорожную разметку с левой стороны, свернул на гипотетическую «встречку».
Во втором эксперименте авторы, показав на мониторе перед автомобилем специальные зашумленные изображения, заставили его включить стеклоочиститель. Уточним, что у Tesla Model S есть функция распознавания дождя по изображению с камеры, которая работает на основе технологии машинного обучения — достаточно чувствительной к подобным атакам.
Наконец, в последнем эксперименте авторы показали, как уязвимость в программном обеспечении Tesla позволяет злоумышленникам получить доступ к управлению углом поворота руля и управлять электрокаром с помощью игрового контроллера. Впрочем, этот недочет уже устранен в актуальной версии программного обеспечения автомобилей американского производителя.
В заключении пресс-релиза авторы отмечают, что Tesla ответила на выводы их исследования. В случае с включением щеток стеклоочистителя компания заявила, что использование монитора прямо перед автомобилем не является реальным сценарием, который может быть применен на практике. Аналогичным образом специалисты компании ответили на обвинения в некорректном распознавании разметки, отметив, что водитель должен быть всегда готов перехватить управление у системы автопилота, воспользовавшись рулем или педалью тормоза.
Источник: N+1
- Важно подчеркнуть, что систему Autopilot в автомобилях Tesla принято классифицировать как систему автономного вождения второго уровня автономности по классификации SAE, поскольку она не является полностью автономной и требует от водителя держать руки на руле и перехватывать управление в сложных ситуациях.