Время переменных. Математический анализ в безумном мире

Если первое число обозначить как A, то второе всегда равно 100, деленное на А (иначе говоря, 100/А). В результате получается следующий график:

Минимум находится там, где производная точно равна нулю, что происходит, когда А = 10. Это означает, что второе число также 10, и, таким образом, минимальная сумма – 20. Выпейте безалкогольного шипящего сидра – задача решена!

Эта задача приятна и аккуратно подстрижена, как придомовая лужайка в пригороде. Вы исследуете возможности. Вы взвешиваете варианты. И в конце вы приходите к единственному решению – триумф равновесия и эффективности. Почему авторы книг по самосовершенствованию и IT-компании так активно призывают нас к «оптимизации». Если понимать ее буквально, оптимизация призвана делать вещи лучше. Кто, за исключением поклонников сериала «Звездный путь: Вояджер», предпочтет худшее лучшему?

Но это только одно понимание оптимизации. Сразу за углом скрывается дикий мир. Позвольте себе нечто простое и безрассудное – сделайте наоборот. Вместо того чтобы искать минимальную сумму, найдите максимальную.

Если подбирать правильные пары множителей, сумма может расти и расти, так, что мы потеряем над ней контроль, и раздуется до бесконечности, как обещания политика или вопли младенца. Как может понять любой избиратель или родитель, мы попали в кошмар оптимизатора. Никакого максимума здесь нет, только беспредельный, бесконечный подъем.

В 2003 г. философ Ник Бостром написал эссе об этических последствиях применения искусственного интеллекта, существенно превосходящего человеческий. Он включил в работу краткое описание того, как даже самая возвышенная цель при не испытывающем колебаний руководстве может привести к варварскому уничтожению всего, подобно графику, устремленному в бесконечность. Этот замысел в стиле фильма ужасов с тех пор вошел в обиход и воображение людей.

Я даю вам… Умножитель скрепок для бумаги.

Как в басне Эзопа «Черепаха и технологическая сингулярность[25]», мораль этой сказки совершенно ясна: никогда не создавайте силу, которой безразлично ваше выживание и которую вы не можете остановить. «Искусственный интеллект не испытывает к вам ненависти, – говорит философ Элиезер Юдковский, – не ощущает и любви, но вы сделаны из атомов, которые он может использовать для своих нужд».

Действительно ли существует эта угроза? Не сойдут ли через несколько секунд поезда с рельсов или это всего лишь зарисовка на ноутбуке градостроителя? Математик Ханна Фрай склонна придерживаться последней точки зрения. «Возможно, было бы куда более полезно подумать о том, как мы пройдем через революции в вычислительной статистике, чем через революцию в искусственном интеллекте, – пишет она в своей книге «Привет, мир! Оставаясь человеком в эпоху алгоритмов» (Hello World: Being Human in the Age of Algorithms). – Честно говоря, мы очень далеки от создания интеллекта даже на уровне ежика. Никто пока что не продвинулся дальше червя». Другие настроены менее оптимистично. «Часто случается, – пишет Юдковский, – что от ключевого технического изобретения, которое, казалось, появится только через несколько десятилетий, нас отделяет всего пять лет».

Стоит спросить: почему мы с вами не ведем себя как Умножитель скрепок? Я встречал людей – черт, да я сам бывал таким! – чьи цели были сомнительными или даже хуже. Мы способны на моральную слепоту, эгоистичную жадность и, когда стоим в медленно двигающейся очереди в магазине, на внезапный порыв кого-нибудь убить. Если Умножитель скрепок уничтожает мир ради глупой цели, почему мы с вами не уничтожаем мир, принимая во внимание, что наши цели являются далеко не возвышенными?

Отчасти дело в том, что нам просто не хватает сил. Но, кроме того – и это звучит более утешительно, – мы устроены сложнее и потому не способны так несгибаемо, не зная сомнений, идти к подобной цели.

Испытывали ли вы ничем не замутненную радость, когда играли в ладушки с карапузом? Необыкновенное умиротворение от созерцания многоцветного заката? Сладость идеального молочного коктейля? Ощущали ли вы состояние потока, выполняя значительную работу, чувство гордости от неожиданных перепостов, тепло на душе от дружеского общения с леопардовым гекконом? Если да, то вы знаете, что счастье – это не нечто, существующее отдельно. Для человечества нет одной-единственной переменной, чтобы ее оптимизировать. Как писал Уолт Уитмен:

По-твоему, я противоречу себе?

Ну что же, значит, я противоречу себе.

(Я широк, я вмещаю в себе множество разных людей.)[26]