Глупая машина. Как хакеры взломали автопилот Tesla

Киберэксперты обнаружили лазейку, которая позволяет обмануть систему автопилотирования Tesla

Специалисты по цифровой защите узнали, в какой ситуации радары автопилота электрокаров Tesla могут неправильно считывать дорожную информацию.

Э лектрокары Tesla известны своим необычным программным обеспечением.

Эти машины могут «танцевать», имитировать звуки газов из кишечника, охранять ваших домашних животных, и даже позволяют поиграть в видеоигры.

Пару недель назад в компании заявили, что хотят по умолчанию установить в бортовой компьютер Tesla популярную игру Ведьмак.

Однако, такие «фишки» иногда могут оказаться проблемой. Особенно это касается системы автопилота калифорнийских электрокаров.

Технологию автономного вождения Tesla принято считать одной из самых высокоэффективных, но различные радары, датчики, камеры и сенсоры по-прежнему несовершенны, и могут привести к неправильной работе ПО.

Недавно это доказали киберэксперты из компании McAfee, которые нашли лазейку в системе автопилота Tesla. Такая ошибка может привести к нарушению правил дорожного движения.

Фото: carmagazine.co.uk

Что сделали разработчики?


Специалисты экспериментировали с камерой Tesla MobilEye EyeQ3, которая, в частности, отвечает за считывание дорожных знаков.

К примеру, камера замечает знак с ограничением скорости, передает эти данные в главный блок управления, и система адаптивного круиз-контроля автоматически замедляет автомобиль.

В McAfee обнаружили, что если к знаку ограничения скорости в 35 миль добавить одну небольшую полоску с помощью серой клейкой ленты, автопилот Tesla считывает его неправильно.

Фото: McAfee

Внешне знак изменяют не сильно, и обычный человек может даже не заметить никакой разницы. Но система автопилота считывает тройку как восьмерку, и автоматически повышает скорость.

Эксперты сняли на видео, как на приборной панели Tesla вместо знака ограничения в 35 миль появляется знак 85 миль, и авто ускоряется.

Сообщается, что в эксперименте приняли участие электрокары Model X и Model S 2016 года.

В прошлом году специалисты также смогли обмануть автопилот Tesla, и заставили электрокар повернуть в неправильную полосу движения, смпанипулировав алгоритмами машинного обучения.

«Мы изучаем это заранее, потому что интеллектуальные системы в будущем будут выполнять задачи, которые сейчас решаются людьми. Если мы не будем очень предусмотрительны в отношении уязвимостей и проектирования таких систем, у нас будет развиваться транспортный парк взаимосвязанных компьютеров, которые станут одними из самых привлекательных для сторонних атак», — пишут авторы эксперимента.

В Tesla пока не отреагировали на заявления специалистов McAfee, но сказали, что знают об этом и не собираются исправлять ошибку в том поколении ПО электрокаров.

Представители компании Mobileye, которая производит камеры для Tesla, сказали, что такой знак может ввести в заблуждение даже людей, и система автопилота учитывает и другие данные, включая информацию из цифровых карт.

В новых версиях автомобилей Tesla с камерами MobilEye EyeQ3 система считывает безошибочно даже поддельный знак.

Тем не менее, у различных систем автопилота остается много других проблем.

Фото: thecarconnection.com


Как ранее писало НВ, вспомогательная система управления авто у Tesla называется Autopilot, а не Advanced driver-assistance, как в авто других марок.

На самом же деле, это не полноценный автопилот, и он не позволяет водителям полностью отвлекаться от управления.

Несмотря на это, многие владельцы электрокаров Tesla полностью доверяют управление машиной системе Autopilot, снимают веселые видео за рулем, а некоторых даже заметили спящими в авто на шоссе.

Чрезмерное доверие к автопилоту Tesla привело к нескольким смертельным ДТП за последние годы, из-за которых руководство компании понесло серьезные репутационные потери.

«Автомобили со вторым и третьим уровнем автопилота предусматривают, что водитель участвует в управлении. Такие авто лишь разделяют некоторые функции водителя и описываются как полуавтономные… Вы несете ответственность за управление авто, независимо от того, сколько автоматизации может быть на уровне 2 или уровне 3… Пока не существует авто с пятым уровнем автономности, и мы не знаем, удастся ли этого достичь вообще», — говорил профессор Южно-Калифорнийского и Калифорнийского университетов в Лос-Анджелесе, эксперт по ИИ и автономному вождению Лэнс Элиот.

И хоть системы искусственного интеллекта в автомобиле могут очень быстро обрабатывать огромное количество данных, сигнал спутниковой навигации иногда запаздывает, самые лучшие камеры и радары не всегда улавливают разметку, замечают темные объекты, правильно оценивают расстояние к препятствиям и т. д.

Кстати, из-за этой проблемы, радары в некоторых автомобилях не замечают темнокожих пешеходов.

Ввиду существующих проблем с технологиями беспилотного управления, в начале 2020-го сенатор из штата Массачусетс Эдвард Марки призвал Tesla переименовать систему Autopilot.

Политик порекомендовал изменить название системы и добавить в авто «инструменты мониторинга водителя», которые будут контролировать, чтобы он не уснул.

В Tesla ответили, что на рынке не существует подобных эффективных систем мониторинга водителя, и злоупотребление технологией Autopilot не является недостатком Tesla.

Теги Tesla Автопилот электрокары

Новости по теме

У падения цен на бензин есть потенциал до 22,5 гривен за литр - эксперты.

Курс доллара и карантинное снижение спроса позволят топливу дешеветь "до упора"

iPhone 12: Apple выпустит четыре смартфона в 2020 году.

Все модели iPhone 12 получат самый мощный мобильный процессор Apple A14 Bionic со встроенным модемом 5G и сканер LiDAR

Возвращение легенды. Электрический Harley-Davidson победил в гонке с Tesla Model 3

Новый электрический мотоцикл LiveWire от Harley мощностью 105 лошадиных сил смог опередить электрокар Tesla в популярных в США гонках на четверть мили.

2

В галактике Млечный Путь обнаружили сверхбыструю звезду.

Астрофизик нашел самую быстровращающуюся звезду в нашей галактике

Розовая суперлуна: ожидается самое яркое полнолуние 2020 года.

Полнолуние во вторник совпадает с перигеем и будет первым в весеннем сезоне, которое будет сопровождаться фантастическим зрелищем

2 1

Продолжая просматривать Новости Украины (UAZMI), вы подтверждаете, что ознакомились с Правилами пользования сайтом, и соглашаетесь на использование файлов cookie