Четвертая мировая война. Будущее уже рядом

Да, нам, возможно, очень захочется его выключить. Но мы не сможем.

Создатели легендарной «Матрицы» предрекли нашим телам роль батареек, но и это, как выясняется, ещё очень гуманный вариант развития событий. Сверхумный интеллект найдет способ получать энергию и менее затратным способом — например, пустит нас с вами под нанонож.

Так выглядит перспективный план… И где-то прямо сейчас зарождается этот монстр — и это точно не травоядный Google с его милым AlphaGo.

Непослушное дитя

В игре жизни и эволюции участвуют три игрока: люди, природа и машины.

Я прочно стою на стороне природы. Но природа, я подозреваю, на стороне машин.

ДЖОРДЖ ДАЙСОН

В 2014 году компания CBS представила сериал Стивина Спилберга и Аллена Култера «За пределами» («Extant»). Красиво снятый, но скучный сериал (как говорят в таких случаях — перемудрили, и в результате с трудом протянули два сезона) наглядно проиллюстрировал то, о чём многие специалисты по искусственному интеллекту говорят наперебой начиная ещё с Алана Тьюринга.

В центре истории мальчик Итан — робот-гуманоид, внешне абсолютно не отличимый от обычного ребёнка. Его создал талантливый инженер Вудс, рассуждавший следующим образом: хотите вырастить нормального ребёнка — растите его в семье. И не важно, что этот ребёнок немножко искусственный.

Короче говоря, Итан растёт в семье Вудсов как нормальный ребёнок: папа — гений, мама — астронавт. Время от время ему меняют оболочку — делают его старше, он даже уже собирается в школу…

Но сериал — это сериал, так что события разворачиваются странным образом: ребёнок-гуманоид впадает в кому, сбиваются какие-то настройки, которые задерживали его развитие прежде, и мальчик на глазах превращается в интеллектуального монстра, способного решить любые задачи.

Если убрать из этого сценария всю литературу, то мы видим сбывшийся кошмар современного футуриста. Известный нам уже Джеймс Баррат называет этот сценарий развития событий «Busy Child». Идея состоит в том, что созданный человеком искусственный интеллект переживает тот самый «интеллектуальный взрыв» и осознаёт себя.

Поскольку интеллекта ему не занимать, а задача ему некогда уже была поставлена (по-другому с искусственным интеллектом и быть не может), он направляет весь свой невообразимый интеллектуальный ресурс на её выполнение.

В принципе, в этом он чем-то очень напоминает человека — нам ведь тоже была поставлена задача (видимо, эволюцией): живите и размножайтесь. Что мы и делаем с завидным упорством — в восемь раз умножились только за последние сто лет, плюс завоевали всю планету — от полюса до полюса.

Но что такое наш разум и что такое сверхразум? И да, следующим шагом наш Busy Child понимает, что пленён человеком — существом, прямо скажем, не очень умным и вдобавок не понимающим, насколько важно выполнить задачу, которую наш Busy Child воспринимает как своего рода инстинкт.

Логично предположить, что новоявленное «Дитя человеческое» захочет получить максимум ресурсов для достижения запрограммированной в нём цели. Кроме того, он должен обезопасить себя — вдруг создавшим его людям придёт в голову что-то с ним сделать?

Выключить, например, или испортить. Цель окажется недостигнутой!

Очевидно, что в нашем пленнике рождается план побега, а ощущает он себя, будучи сверхсильным интеллектом, примерно так же, как если бы с вами проснулись, по выражению Баррата, «в узилище, охраняемом мышами». «И не просто мышами, — добавляет он, — а мышами, с которыми вы можете общаться».

Дальнейший план побега ясен: обещаем мышам сыр. Впрочем, можем пообещать вообще всё, о чём мыши даже не мечтали, включая счастье, бессмертие, мирное бескошачье небо над головой, саморазвитие, самосовершенствование, Нирвану…

Впрочем, есть у меня ощущение, что и сыра будет достаточно. В конце концов, это ведь просто мыши.

Оказавшись на свободе, сверхмощный искусственный интеллект развернётся по полной и, если в его программе было записано: «Делай канцелярские скрепки», то скоро вся Вселенная превратится в один большой коробок с теми самыми скрепками. Нанотехнологии в помощь!

Собственно, это всё, что нужно знать о предстоящей Четвёртой мировой войне. Войне, в которой Homo sapiens сойдётся в неравной битве с собственным детищем и будет побеждён им.

В этом даже прослеживается какая-то, так сказать, историческая логика: Уран был повержен сыном Кроносом, Кронос — сыном Зевсом, потом мы победили богов, будучи их «чадами», а теперь наши «чада» победят нас.

Что-то, надо признать, всё-таки есть в этом психоанализе…