2062: время машин

Тем не менее мы не можем полностью исключать экзистенциальной угрозы, которую несет появление сверхинтеллекта. Однако разумнее было бы, вероятно, сосредоточиться на тех угрозах нашему виду, которые имеют более реальный характер, а также на более насущных (но менее опасных) проблемах, связанных с искусственным интеллектом. Вам необязательно верить мне на слово, когда я утверждаю, что ИИ – не самая страшная экзистенциальная угроза человечеству. Опрос пятидесяти нобелевских лауреатов, проведенный журналом Times Higher Education в 2017 году, показал, что искусственный интеллект проигрывает в этой борьбе климату, росту населения, атомной войне, болезням, эгоизму, невежеству, терроризму, фундаментализму и Дональду Трампу.

«Пари Паскаля»

Представим ненадолго, что сверхинтеллект все же появится. Даже если это произойдет спустя столетие или больше, люди вроде Илона Маска и Ника Бострома утверждают, что нам стоит об этом беспокоиться. Они боятся, что ИИ станет еще большей угрозой для человечества, чем ядерная война, глобальное потепление и другие актуальные проблемы планеты. Их страх – потерять контроль над машинами, что приведет к намеренному или ненамеренному уничтожению нашего вида.

Мне кажется, что их мнение в некотором смысле подчинено философскому аргументу, придуманному Блезом Паскалем. Паскаль, который родился в 1623 году, а умер в 1662-м, был французским философом, математиком и физиком. В своих посмертно опубликованных «Мыслях»[39] он выдвинул аргумент о необходимости веры в Бога, получивший известность как «пари Паскаля».

Условия выглядят следующим образом. Бог либо существует, либо нет, а вам нужно решить, что из этого верно. Так или иначе вам приходится выбирать, ведь от этого зависит ваша судьба. Даже если вы не будете делать ничего, вы окажетесь на одной из двух сторон.

Если Бог существует и вы в него верите, то вам обеспечена прекрасная вечная жизнь. Если Бога нет, а вы в него верите, то ваша потеря конечна: ваши действия в этой жизни будут продиктованы верой в Бога, которого не существует. Если же Бог существует, но вы в него не верите, то ваши потери не закончатся со смертью: вы упускаете счастье вечной жизни. Наконец, если вы не верите в Бога и его не существует, то вы просто сэкономите усилия, которые потратили бы на религиозные практики.

Рассуждения Паскаля были одним из первых примеров «теории принятия решений», области логики, которая занимается поиском наилучших решений. (В наши дни ИИ находится на передовой процесса интеграции теории принятия решений в компьютеры. Факт, что те же теоретические идеи вводят людей в заблуждение относительно реальных экзистенциальных угроз для нашей планеты, кажется несколько ироничным.)

Теория принятия решений говорит нам о том, что верить в Бога выгоднее, чем не верить. Мы рискуем конечной суммой для того, чтобы потенциально приобрести бесконечную. Такого рода возможностью любой банкир или игрок должен пользоваться без лишних размышлений. «Пари Паскаля» логически убеждает поверить в Бога, так как это может принести вам максимум отдачи.

Однако исключительно логика и теория вероятности не могут определять, верить ли нам в Бога. Люди, которые переживают по поводу сверхинтеллекта, попадаются в похожую ловушку. В нашей ситуации этот аргумент выглядит следующим образом. Исчезновение человечества может быть концом всей жизни во Вселенной, которая превратится в пустое и безжизненное место. Это лишит миллиарды или даже триллионы людей, которые могли бы быть после нас, возможности быть счастливыми. Кроме того, многие поборники теории технологической сингулярности – трансгуманисты, верящие в то, что однажды мы победим смерть. В таком случае уничтожение человеческой расы лишит их возможных потомков еще большего счастья.

Исчезновение нашего вида – настолько серьезная угроза, что она перевешивает все остальные, даже учитывая тот факт, что риск ее реального появления совсем невелик. Она оказывается важнее мирового финансового кризиса. Важнее климатических изменений. Важнее коллапса нашей политической или экономической системы. Важнее даже Трампа. Раз это такая страшная угроза, мы просто обязаны поставить ее выше всего остального – прямо как в «пари Паскаля», где вечное счастье и его потеря ставят риск неверия в Бога выше всего остального. В обоих случаях мы должны игнорировать все остальные проблемы.

Не принимать в расчет будущее

Вообще говоря, современная теория принятия решений нашла контраргумент к «пари Паскаля». Решение в том, чтобы учитывать настоящее и не учитывать будущее. Награда, полученная сегодня, важнее, чем та, которую можно получить завтра. Мы живем в настоящем, а не в будущем. Это заставляет нас смотреть на проблему несколько хладнокровно и утилитарно. Однако эта точка зрения, вероятно, соотносится с нашей биологией. Моментальный результат для нас важнее долгосрочных перспектив.