Танцы с роботами. Стратегии успеха в эпоху искусственного интеллекта и автоматизации

Мой танец с навигатором Google длится уже много лет. Я научился прислушиваться к нему, когда он подсказывает мне другой маршрут или неожиданно предлагает съехать с шоссе. Я стал верить, что он знает больше меня и стремится мне помочь. Я даже чувствую себя виноватым, когда не следую его советам, гадая, не накажет ли он меня в будущем за мое непослушание.

Благодаря навигатору Google мои деловые поездки стали более спокойными. Теперь, даже застряв в пробке, я знаю, что приеду на встречу вовремя. Я считаю, что навигатор – это замечательное изобретение, хотя мне прекрасно известно, что оно собирает данные обо мне и анализирует, куда я езжу и чем занимаюсь.

Но в последнее время я стал задумываться о том, куда нас приведут такие технологии, как навигатор Google. У меня есть деревенский бревенчатый дом в трех часах езды к северу от Торонто, где я часто уединяюсь, чтобы поразмышлять о Вселенной. Когда мы с женой Джинни только приобрели этот дом, я с раздражением обнаружил, что по нашей дороге ездит большое количество легковых и грузовых автомобилей, часто нарушая тишину и наше уединение. Но теперь эта дорога почти всегда пуста. Если не считать случайных машин, то единственными транспортными средствами на ней являются конные повозки, которыми управляют наши соседи-амиши.

Я не задумывался о том, почему дорога перестала быть оживленной, пока на днях не воспользовался навигатором Google для поездки домой в Торонто. Навигатор рекомендовал мне следовать совсем другим маршрутом, чем я ездил предыдущие 20 лет. Программа подсказала, что я сокращу время поездки на 30 минут. Теперь вся дорога укладывалась в два с половиной часа вместо трех.

Возвращаясь домой, я заметил, что по той новой дороге, по которой я ехал, движется значительный поток машин в обоих направлениях. Трасса была загружена. Затем меня осенило, что все люди едут по одной и той же дороге, потому что навигатор Google дает им одни и те же указания. Я также понял, что водители больше не выбирают мою дорогу, потому что Google им ее уже не предлагает.

Это хорошо для меня, но не очень хорошо для людей, проживающих вблизи от этой оживленной трассы. Они, наверное, удивлены, почему сотни машин теперь мчатся по их ранее сонной дороге. Я также думаю, что моя старая дорога была забыта, потому что на ней есть небольшой (хоть и весьма живописный) изгиб вокруг маленького озера. Алгоритм Google, вероятно, подсчитал, что этот изгиб добавляет несколько секунд к поездке, и поэтому уже не рекомендует нашу дорогу.

У этой ситуации весьма далеко идущие последствия. Во-первых, что, если людям, живущим рядом с загруженной дорогой, не нравится возросший трафик? Что они могут с этим сделать? Они не могут позвонить в местные государственные органы. Правительство не имеет власти над Google. Позвонить в офис Google эти люди тоже не могут. Компания не станет менять свои алгоритмы в угоду нескольким недовольным клиентам. Таким образом, машинный алгоритм лишил людей, проживающих вблизи от оживленной дороги, их права голоса.

Во-вторых, я заметил, что, выбирая новый маршрут, я больше не попадаю в расположенный на трассе ресторан быстрого питания Super Burgers, где я обычно с удовольствием делаю остановку на полпути. Следуя рекомендациям Google, я лишаюсь своих вкусных чизбургеров. Однако тот факт, что мои вкусовые рецепторы не получают привычных ощущений, меркнет перед следующим обстоятельством: из-за алгоритмов Google заведение Super Burgers потеряло клиента; и если оно потеряет достаточно много клиентов, то может вообще прекратить свою деятельность. Еще больше тревоги вызывает то обстоятельство, что администраторы ресторана не будут знать, почему они потеряли клиентов, и не будут иметь возможности исправить ситуацию.

В-третьих, что произойдет, если мы будем просто выполнять указания навигатора Google и других подобных приложений, управляемых искусственным интеллектом? Останемся ли мы людьми или превратимся в автоматы, выполняющие приказы своего цифрового повелителя? Эта ситуация напоминает мне старый киносериал «Флэш Гордон», основанный на комиксе 1930-х годов, где злой император поработил население, заставив людей надеть шлемы для промывки мозгов (посмотрите этот сериал на YouTube). Если мы будем продолжать движение по этой траектории и бездумно внедрять искусственный интеллект во все сферы нашей жизни, то не начнет ли он отдавать нам приказы в течение всего дня? Встать с кровати. Застелить постель. Почистить зубы. Пройтись между зубов зубной нитью. Съесть йогурт. Пойти на работу.