Искусственный интеллект на службе бизнеса

Иногда для улучшения продукта, особенно в обучении посредством использования, важно встряхнуть систему таким образом, чтобы потребитель действительно получил совершенно новый опыт, полезный для обучения машины. Принудительно попав в новую среду, клиенты чаще всего получат негативное впечатление, но от этого выигрывают все остальные. В бета-тестировании это происходит добровольно, поскольку клиенты используют ранние версии. Однако некоторые участники бета-тестирования применяют продукт иначе, чем обычные клиенты. Иногда необходимо пожертвовать качеством продукта для получения обратной связи от нетипичных пользователей ради общей выгоды.

Людям тоже нужен опыт

Нехватка опыта приобретает еще большее значение, когда речь идет о людях. Если опыта набирается машина, он может проходить мимо человека. Согласно недавним предположениям, автоматизация грозит человечеству утратой навыков.

В 2009 году над Атлантическим океаном потерпел крушение рейс 447 Air France Рио-де-Жанейро – Париж. Сначала испортилась погода, затем отключился автопилот. По сообщениям в печати, в отличие от Салли из US Airways, неопытный пилот не справился с ситуацией. Когда его место занял квалифицированный коллега (до этого он спал), то не смог правильно оценить обстановку, потому что накануне ночью не выспался[143]. Суть в том, что почти трех тысяч летных часов молодого пилота оказалось недостаточно, поскольку большую часть из них он летал с автопилотом.

Автоматизация полетов уже стала обычным делом вследствие того, что большинство авиакатастроф после 1970-х произошли в результате ошибок людей. С тех пор человек устранен из контрольного цикла, однако по иронии теперь пилоты получают еще меньше опыта и подготовлены еще хуже.

Для экономиста Тима Хартфорда решение очевидно: автоматизацию следует сокращать. По его мнению, автоматизировать необходимо рутинные процессы, а чрезвычайные ситуации требуют вмешательства человека, и с ними нельзя научиться справляться на повседневных примерах. Самолет Air France попал в экстремальную ситуацию, а опытного человека в кабине экипажа не оказалось.

Хартфорд подчеркивает, что автоматизация не всегда чревата проблемами:

«В большинстве ситуаций автоматизация не создает такого парадокса. Веб-страница клиентской службы справляется с обычными жалобами и запросами, что избавляет сотрудников от рутинной работы, поэтому они эффективнее решают сложные вопросы.

Но с самолетами все по-другому. Благодаря автопилотам и прочим видам компьютерного управления у экипажа появилось свободное время, но теперь пилотам особенно нечем заняться. В итоге они спят за пультом в прямом и переносном смысле. Всем известен случай в конце 2009 года, когда автопилот пролетел мимо аэропорта в Миннеаполисе больше чем на 100 миль, потому что пилоты не отрывались от своих ноутбуков»[144].

Закономерно, что другие примеры, обсуждаемые в нашей книге, в том числе беспилотные автомобили, попадают в категорию самолетов, а не обращений в службу поддержки. Что мы станем делать без опыта вождения, когда машина в экстремальной ситуации переложит ответственность на нас? И как придется поступать нашим детям?

Людям необходимо развивать и сохранять навыки и снижать влияние автоматизации на процесс обучения. Опыт по сути своей – ресурс дефицитный, и его частично следует выделить человеку во избежание потери квалификации.

Обратное тоже верно. Прогностические машины должны получить ценный опыт событий, потенциально ведущих к катастрофе. Но откуда он возьмется, если в цикл включен человек? Возникает еще один компромиссный выбор – между опытом человека и машины.

Данные компромиссы раскрывают подтекст ориентированности на ИИ, провозглашенной руководством Google, Microsoft и других компаний. Они готовы инвестировать в данные для обучения прогностических машин, чье усовершенствование возводится в приоритет, даже в ущерб опыту пользователя и обучению сотрудников. В стратегии ИИ первое место занимают данные.

Выводы

• Переход на стратегию, ориентированную на ИИ, означает смещение прежних приоритетов. Ориентация на ИИ – не просто модная фраза, за ней кроется фактический компромисс. В такой стратегии организации на первое место ставится максимальная точность прогнозов, даже в ущерб другим целям, таким как увеличение прибыли, количество пользователей или опыт пользователя.