Искусственный интеллект

У беспилотных машин есть проблемы. Они не могут держаться центра полосы на плохо убранной дороге. Не работают в снег и при других плохих погодных условиях, когда не могут «видеть». Автономное вождение на основе системы LIDAR работает по принципу отражения лазерного луча от окружающих объектов. Измеряя время отражения луча, система распознает расстояние до них. Во время дождя, снега или в пыли лучи отражаются от частиц в воздухе, а не от препятствий вроде велосипедистов. Однажды беспилотный автомобиль был замечен за ездой в неправильном направлении по односторонней улице. Автомобиль легко запутать, поскольку он полагается на те же посредственные алгоритмы, что перепутали фотографии черных людей с гориллами[115]. На большинстве беспилотных машин используются алгоритмы, которые называются глубокими нейронными сетями, их можно запутать, просто прилепив стикер или нарисовав граффити на знаке «стоп»[116]. Глушилки сигнала GPS нелегальны, но их можно спокойно купить онлайн за $50. На коммерческих фургонах частенько их используют, чтобы бесплатно пройти пункт взимания дорожных сборов[117]. Автономные машины передвигаются, опираясь на данные GPS; что произойдет, если беспилотный школьный автобус, на скорости 120 км/ч, потеряет сигнал GPS из-за глушилки на грузовике в соседнем ряду?

В научном сообществе бытует некоторый скрытый скептицизм. Один исследователь ИИ как-то мне сказал: «У меня есть Tesla. Автопилот… Э-э-э… В общем, я использую его только на трассе. Он совершенно не подходит для городского вождения. Технология еще не готова. В NVIDIA выяснили, что алгоритм беспилотного автомобиля ошибается в среднем каждые 10 минут». Это наблюдение соответствует инструкции к автомобилю: функцию автопилота действительно следует использовать только на трассе, короткое время и под контролем водителя.

В 2017 г. Uber пережил серьезное давление после того, как бывший исполнительный директор компании Тревис Каланик был записан на видео, где он кричал на одного из водителей, Фаузи Камаля. Тогда Камаль потерял $97 000, он стал банкротом, обвиняя в этом стратегию компании, направленную на понижение цен. В итоге водители зарабатывали в среднем не больше $10 в час. Состояние самого Каланика на тот момент оценивалось в $6,3 млрд. Камаль поделился с ним своей историей. Каланик ответил: «Некоторые люди не хотят брать ответственность за собственное дерьмо. Они обвиняют других во всем, что случилось в жизни. Удачи!» В обход калифорнийским нормам компания выпустила на улицы города беспилотные машины. Проект был закрыт после судебного разбирательства. Каланик лично нанял Энтони Левандовски, участника DARPA Grand Challenge, работавшего с Траном в Google X и позднее в Waymo. Но уже в мае 2017 г. Левандовски был уволен, поскольку отказался сотрудничать со следствием на предмет потенциальной кражи интеллектуальной собственности Waymo в пользу технологических разработок Uber[118].

В мае 2016 г. в автономной машине впервые погиб человек – это был Джошуа Д. Браун из Кантона, Огайо. Сорокалетний Браун был из спецназа ВМС, специалистом по обезвреживанию взрывоопасных предметов и предпринимателем. Он погиб в своей Tesla во время использования автопилота. Он настолько верил в систему, что позволял автопилоту делать всю работу. В тот солнечный день система не распознала трейлер с длинным белым прицепом, поворачивавший на перекрестке. Tesla заехала прямо под него. После столкновения крыша машины была буквально отрезана, а то, что осталось от автомобиля, продолжало двигаться еще несколько сотен метров[119].

«Данные говорят о том, что система автопилотирования, используемая в комплексе с водительским зрением, действительно сокращает нагрузку и значительно повышает безопасность», – прокомментировали в Tesla после аварии[120]. А вот что написали об этом в Associated Press: