Искусственный интеллект на службе бизнеса

Пилоты коммерческих авиалиний также непрерывно наращивают профессиональный опыт. 15 января 2009 года рейс US Airways 1549 столкнулся со стаей канадских гусей, двигатели отказали, и капитан Чесли Салленбергер по прозвищу «Салли» мастерски посадил самолет на реку Хадсон и спас жизни 155 пассажиров. Большинство репортеров приписали его заслуги опыту. Он налетал уже 19 663 часа, в том числе 4765 на Airbus A320. Вот как выразился сам Салли: «Думаю, дело в том, что в течение 42 лет я регулярно вносил маленькие вклады в банк своего опыта, образования и подготовки. И на 15 января там оказалось достаточно средств, чтобы я мог снять столько, сколько нужно»[137]. Салли и его пассажиры получили выгоду от всех его предыдущих полетов.

Разница в том, что именно называется «неплохо для начала» у начинающих кассиров и пилотов, и в серьезности последствий их ошибок. У пилотов она очевидно выше. Утешает, что сертификацию пилотов проводит Министерство транспорта и Федеральное управление гражданской авиации США и минимальный требуемый опыт составляет не менее 1500 летных часов, 500 часов маршрутных полетов, 100 часов ночных полетов и 75 часов полета по приборам в условиях ограниченной видимости. И это несмотря на то, что пилоты постоянно совершенствуются. Для каждого вида деятельности существует собственное определение того, что такое «достаточно хорошо». То же можно сказать и о машинном обучении.

Компании разрабатывают системы обучения (и обучают) новых сотрудников до приемлемого уровня и затем допускают к работе, зная, что те будут набираться опыта на практике. Но очень важно определить, с чего именно начинается «приемлемый уровень». В случае прогностических машин это стратегическое решение и касается времени, когда следует переходить с внутрифирменного обучения к практике.

Для прогностических машин точного определения «приемлемого уровня» нет, есть лишь компромиссы. К ним нужен стратегический подход и серьезное отношение, тогда использование прогностических машин приведет к успеху.

Какая погрешность допустима с точки зрения людей? Для одних прогностических машин большая, для других – маленькая. Скажем, приложение Google Inbox читает письма, с помощью ИИ прогнозирует ответ и предлагает на выбор три варианта. Судя по отзывам, большинству пользователей приложение нравится, хотя в 70 % случаев оно ошибается (на момент написания книги годными оказываются только 30 % вариантов ответов ИИ). Люди терпимо относятся к этому, потому что плюсы от того, что не нужно сочинять и печатать письмо, перевешивают минусы забитого пространства экрана, когда прогнозируемый ответ неправилен.

А вот в автономном вождении мы не так толерантны к ошибкам. Первое поколение беспилотных транспортных средств, в основном производства Google, обучали профессиональные водители. Для этого они проехали на них сотни тысяч километров – как родители с неопытными подростками за рулем.

Водители-профессионалы обеспечивают безопасные условия обучения, но дают ограниченную информацию; машина узнает только о нескольких ситуациях. Люди наезжают миллионы километров в различных условиях и положениях, прежде чем научатся реагировать на редко наступающие обстоятельства, приводящие к несчастным случаям. Беспилотные автомобили на реальных дорогах могут попасть в созданные людьми неприятные ситуации, когда ошибка дорого стоит.

Насколько важно собирать данные о реальных пользователях? Зная, что обучение может длиться недопустимо долго, Tesla по максимуму оснастила все новые модели функциональными возможностями, в том числе датчиками сбора информации и данных о движении, загружаемых на сервер машинного обучения. Tesla может собрать обучающие данные за очень короткий срок, просто наблюдая за действиями водителя. Чем больше машин Tesla ездит по дорогам, тем быстрее они учатся.

Однако помимо пассивно собранных данных об управлении человеком Tesla необходимы данные по беспилотному управлению для понимания работы автономных систем. Чтобы оценить эффективность машин, они должны ездить самостоятельно; также требуется проанализировать случаи, когда человеку, чье присутствие и внимание необходимо, приходится вмешаться. Конечная цель Tesla – полностью автономный автомобиль, а не второй пилот или подросток, которому нужен присмотр. И она будет достигнута, когда пассажиры начнут чувствовать себя в нем спокойно.

Здесь опять следует искать компромисс. Чтобы совершенствоваться, машины Tesla должны учиться в реальных обстоятельствах, однако выпускать их в нынешнем состоянии на дороги – все равно что посадить за руль юного и неопытного водителя, пусть он даже не хуже большинства молодежи в автомобилях. Это более рискованно, чем бета-тестирование восприятия речи Siri и Alexa или степень правильности ответа, составленного Google Inbox. В этих случаях ошибка приводит только к негативному опыту пользователя, а в беспилотниках она может стоить жизни.