В марте этого года тестовый самоуправляемый автомобиль Uber насмерть сбил пешехода, который в тёмное время переходил дорогу в неположенном месте. Компания провела расследование этого инцидента и выявила причины, по которым автомобиль допустил столкновение с летальным исходом. По данным осведомлённых источников, компания считает, что сенсоры автомобиля обнаружили 49-летнюю Элейн Херцберг, когда она пересекла дорогу перед модифицированной версией Volvo XC90. Но программное обеспечение было настроено таким образом, что оно «решило» не предпринимать манёвр уклонения и, вероятно, пометило определение препятствия как «ложно позитивное».
Причина, почему система приняла именно такое решение, состоит в том, что существует множество ситуаций, когда компьютеры самоуправляемого автомобиля могут «видеть» что-либо, что, по их мнению, является человеком или другим препятствием. По данным отчёта, Uber настроила порог срабатывания настолько низко, что система, увидев пересекающего дорогу человека с велосипедом, определила, что немедленные действия по уклонению от столкновения не являются необходимыми. Несмотря на то, что в самоуправляемом автомобиле Uber присутствовал оператор (или «водитель безопасности»), в обязанности которого входит контроль и перехват управления в критических ситуациях, непосредственно перед столкновением он опустил взгляд вниз и не смотрел на дорогу.
Сама компания Uber пока никак не комментирует озвученные данные. Она отметила, что активно сотрудничает с Национальным советом по безопасности на транспорте США. Сам совет пока не опубликовал никакого официального отчёта об этом инциденте. После той аварии с летальным исходом Uber прекратила все работы по тестированию самоуправляемых автомобилей, сообщает itc.ua.
После произошедшего инцидента начали появляться публикации, которые свидетельствовали о высоком уровне риска в программе тестирования самоуправляемых автомобилей Uber. Так, по данным внутренних источников, самоуправляемые автомобили Uber демонстрировали рекордное количество ошибок и сбоев даже в ряде стандартных дорожных ситуаций. В том числе, упоминается проблема с частым вмешательством водителей в работу автономных автомобилей Volvo XC90, чтобы избежать инцидентов на дороге. Операторы вынуждены были чаще вмешиваться в управление, чем изначально ожидали инженеры. Кроме того, Uber сократила с двух до одного количество операторов в тестовых самоуправляемых авто. Наконец, компания уменьшила в них количество сенсоров LIDAR. Всё это происходило при попустительстве властей Аризоны. Тёплые отношения между Uber и губернатором Аризоны могли позволить компании приступить к тестирования на дорогах общего пользования раньше, чем планировалось изначально.
