Сто тысяч миль (СИ)

— Все винили и продолжают винить в трагедии искусственный интеллект, чья эпоха пришла на смену нейросетям, но по мне это бред, — продолжала рассуждать Кларк. — Там была кнопка экстренного завершения — она всегда есть, тем более в системах такого уровня риска. Её не могли не запрограммировать, как и список недопустимых действий. В отличие от человека, программа — это просто кусок кода, который не умеет нарушать правила. Её исполнение можно прервать. Пусть даже система была распределена на миллиарды устройств по всему миру одновременно.

— Но проблема ведь была не столько в остановке программы, сколько в нежелании людей всё это останавливать?

— Вообще да, это верно, но… — задумчиво ответила она, а потом резко вскинула голову: — Стоп. Ты что, уже всё знаешь? Зачем тогда спрашиваешь?

— Хочу узнать твоё мнение, а не сухие факты из вашего учебника, — усмехнулся я, аккуратно убирая упавшую ей на лоб прядь волос. — Там пишут неясные предположения, что всему виной анархисты, террористы, хакеры, которые внезапно решили, что пришло время судного дня. Почему-то ни одна из этих версий не показалась мне хоть сколько-нибудь реалистичной.

— Думаю, проблема в том, что доскональная отладка любых сложных систем невозможна. Тех, на которые влияют не только входные параметры, но и их собственное текущее состояние. Это намного сложнее рассчитать. Это ведёт не к дифференциальным уравнениям, которые научились решать больше пятисот лет назад, там нужны алгоритмы намного сложнее. Вот, например, на заре компьютерных вычислений наши предки пытались таким способом точно предсказывать погоду. Даже сделали для этого суперкомпьютер. И выбрали правильный подход. Но оно всё равно не работало. Почему? Потому что компьютер не мог оперировать с числами с бесконечной точностью. Он округлял дроби. Например, двенадцатый знак после запятой. Очень мелкая доля. Одна триллионная. Казалось бы, мелочь. Но эти погрешности наслаивались друг на друга и вместе влияли на итоговый прогноз, внося непоправимые искажения. Так и здесь. Дьявол — он в деталях. Одну упустили — и мир вспыхнул. Сгинул в огне цепной реакции, потому что никому не хватило мудрости остановить это. Не воевать, а поговорить. Могло ли быть иначе?

— Хочешь сказать, человечество не может существовать без войны?

Кларк бросила на меня краткий взгляд и покачала головой. Голубые глаза засияли искорками живого ума, пока она закусила губу, подбирая слова.

— Может, и так. Но я предпочитаю верить в другое. В то, чему меня научила теория игр.

— Теория игр?

— Так называется раздел математики, который изучает оптимальные стратегии и учит принятию решений. Игра — это, конечно, условное название, им просто обозначают спорную ситуацию, в которой участвует две и более стороны. Там много интересных задачек, о которых любопытно поразмышлять.

— Например?

— Например… Ну, представь себе двоих охотников в лесу, которые выследили место обитания редкого оленя. Поймают они его и смогут съесть только если будут работать сообща. Однако олень всё не появляется. Зато вокруг много зайцев, которых легко поймать каждому из охотников. Не таких больших и сытных, но лучше, чем ничего. Но если хоть один побежит ловить зайца, то они точно спугнут оленя. Охоту на него можно считать проваленной.

— Это так не работает. Всегда можно найти другого оленя, — возразил я.

— Это просто мысленный эксперимент, а не ситуация из жизни. Так что прими эти условия за данность, — усмехнулась Кларк. — Можно поймать либо зайца, либо оленя. По одному. Так вот, нет никаких гарантий, что олень всё же появится. Если конкретный охотник будет ждать, то есть риск, что другой убьёт зайца ради себя. При этом гарантий словить оленя всё ещё никаких, пусть это более выгодно обоим. Но они могут вдвоём решить ловить зайцев. Что бы делал ты?

— Я не хожу на охоту с теми, кто станет думать только о своём сытом брюхе. Так что мы бы однозначно ловили оленя без лишней самодеятельности.

— Хороший выбор, — она улыбнулась. — С надёжным напарником это лучший вариант. Но если ты не уверен, то лучше всего просто ловить зайца. Награда меньше, но и риск тоже. И нас учили выбирать именно так.

— Разумеется. Ведь вас учили выбирать не между собой и командой, а между собой и Протоколом, — мрачно заметил я в ответ. — Как ты любишь говорить, вы просто продукты своей среды.

— Ты абсолютно прав. Но тут стоит вспомнить, что друг для друга мы и есть среда. В отдельной задаче игра определяет игроков, но в долгосрочной перспективе именно игроки определяют игру. Вот во что я верю.

— В то, что можно научить всех ловить только оленя? — не понял я.

— В то, что мы — те самые игроки. Те, которые определяют игру. Те, которым под силу изменить правила.