Tesla Autopilot обманут нарисованной стены, обнажая ограничения только для камеры

Толк Теслы к полностью вождению электромобилей наткнулся на стену. В переносном смысле и в буквальном смысле. Простой тест одурачил свою систему автопилотов. YouTuber, Марк Робер, показал, как нарисованная стена может обмануть Теслу в сбою, обнажив ограничения его подхода только для камеры. Несмотря на то, что он далека от научного, тест поднимает множество действительных вопросов о безопасности и надежности подхода Tesla к технологии автономного вождения.

Tesla, возглавляемая своим противоречивым генеральным директором Элоном Маск, полагается исключительно на камеры и искусственный интеллект для своих систем автопилота и полного самостоятельного вождения. Другие производители используют дополнительные датчики, такие как LIDAR и радар. Бывший инженер НАСА, Робер, решил проверить систему Теслы, используя сценарий, вдохновленный классическим мультфильмом Looney Tunes. Он построил стену и нарисовал ее, чтобы легко смешиваться с окружением. Это выглядело так, как будто дорога продолжалась — когда на самом деле это не так.

https://www.youtube.com/watch?v=iqjl3htsdyq

В тестировании участвовали два автомобиля — более старая модель Tesla Model Y и внедорожник Lexus, оснащенный технологией LIDAR. Оба транспортных средства первоначально показали хорошо в тесте, где перед ним появился имитированный ребенок. Однако, когда была добавлена ​​дым, а затем добавляли воду, проникающую дождем — все изменилось. Тесла боролась с тем, чтобы рассказать ребенку отдельно от окружения, и в обоих сценариях не остановилась.

В этот момент не было удивления, когда Тесла столкнулась с нарисованной стеной. Лексус, оснащенный лидаром, обнаружил стену и не испытывал проблем с безопасной остановкой. Tesla, полагаясь только на свои камеры, не смогла распознать препятствие и прошла полную скорость.

Эта простая демонстрация раскрывает слабые стороны подхода Tesla, ориентированного на камеру. Никто не сомневается в том, что автопилот и FSD Теслы со временем значительно улучшились, но они также были связаны с аварией и расследованиями. Некоторые эксперты утверждают, что полагаться исключительно на камеры просто недостаточно для безопасной и надежной технологии самостоятельного вождения. Человеческий глаз, хотя и способен, не идеальна, а камеры могут быть аналогично ограничены освещением, погодой и другими факторами окружающей среды.

Идея Теслы о системе только для камеры исходит из веры в то, что она отражает вождение человека. К сожалению, нарисованный тест на стену предполагает, что этот подход пропускает важные детали, которые могут легко обнаружить другие сенсорные технологии. Способность нарисованной стены путать систему может быть нереальной и преувеличенной — конечно. Но это показывает, что зависимость только на камеры оставляет пробелы в способности системы безопасно интерпретировать ее окружение.

Точно так же модель Y даже не пыталась тормозить, когда она проехала через дым и дождь, хотя она остановилась, когда ослеплен сильным светом. Это самый очевидный признак того, что технология Tesla далеко не готова к повседневному использованию. Мы не сомневаемся, что дебаты по поводу лучшей сенсорной технологии будут продолжаться, а эксперимент с нарисованной стеной является резким напоминанием о проблемах, связанных с созданием действительно надежных транспортных средств с самостоятельным вождением.

Источник