Лучшая фантастика XXI века

Когда два часа спустя я вернулась, Брэд читал ей «Пражского голема».

– Иди, сказал великий ребе Лёв. Открой глаза и говори, как человек.

Очень похоже на Брэда. У него своеобразное чувство юмора.

– Хорошо, – перебила я его. – Очень смешно. Я поняла твою шутку. Сколько времени тебе понадобилось?

Он улыбнулся Таре.

– Закончим как-нибудь в другой раз, – сказал он. И повернулся ко мне: – На что понадобилось?

– На то, чтобы понять.

– Что понять?

– Хватит насмешек, – сказала я. – Что ее выдало?

– Что выдало? – спросили одновременно Брэд и Тара.

Меня не удивляли слова и поступки Тары. Я могла предсказать, что она скажет, раньше чем она говорила. В конце концов, я ведь точно знала, как меняется ее нейронная сеть с каждым взаимодействием.

Но больше никто ничего не заметил. Я могла радоваться. Моя кукла прошла тест Тьюринга на подлинность жизни. Но я испугалась. Алгоритмы делают разум посмешищем, и этого никто не знает. Как будто всем все равно.

Неделю спустя я наконец созналась Брэду. Сначала он изумился, потом обрадовался (я знала, что так будет).

– Фантастика, – сказал он. – Мы больше не просто компания по производству игрушек. Можешь представить, что мы с этим сделаем? Ты прославишься, по-настоящему прославишься!

Он все продолжал говорить о возможных применениях моей разработки. Потом заметил, что я молчу.

– Что не так?

И я рассказала ему о китайской комнате.

Философ Джон Сёрль предложил исследователям ИР задачу. Представьте себе комнату, сказал он, большую комнату, заполненную аккуратными клерками, которые прекрасно выполняют приказы, но говорят только по-английски. В комнату поступает постоянный поток карточек с необычными символами. В ответ клерки должны писать на чистых карточках другие необычные символы и отправлять их из комнаты. Для этого у клерков есть много толстых книг на английском языке, в которых содержатся такие, например, правила: «Если ты видишь карточку с одной горизонтальной завитушкой, а за ней поступает карточка с двумя вертикальными завитушками, начерти на чистой карточке треугольник и направь соседу справа». В правилах ничего не говорится о значении символов.

На карточках, поступающих в комнату, – вопросы, написанные по-китайски, и клерки, следуя правилам, выдают разумные ответы на китайском языке. Но можно ли сказать, что участники этого процесса – карточки, клерки, вся комната и вся эта деятельность – понимают хотя бы слово по-китайски? Замените слово «клерки» словом «процессор», «книги с правилами» – «программами», и вы увидите, что тест Тьюринга ничего не доказывает и что ИР – искусственный разум – всего лишь иллюзия.

Но довод «китайская комната» можно обратить и в противоположную сторону: замените нейроны клерками, замените физические законы, управляющие деятельностью потенциалов, томами четких правил, и как после этого можно будет говорить, что мы «понимаем» что-нибудь? Мысль – иллюзия.

– Не улавливаю, – сказал Брэд. – О чем ты говоришь?

Мгновение спустя я поняла, что именно это и ожидала от него услышать.

– Брэд, – сказала я, глядя ему в глаза, стараясь заставить его понять. – Я боюсь. Что, если мы как Тара?

– Мы? Ты имеешь в виду людей? О чем ты вообще?

– Что, если мы, – говорила я, старательно подбирая слова, – просто день за днем следуем тем же алгоритмам? Что, если клетки нашего мозга всего-навсего производят сигналы, реагируя на другие сигналы? Что, если мы вообще не мыслим? Что, если эти мои слова – предопределенная реакция, результат безмозглой физики?

– Елена, – сказал Брэд, – ты позволяешь философии мешать твоему восприятию действительности.

Мне нужно поспать, подумала я, чувствуя полное бессилие.

– Думаю, тебе нужно поспать, – сказал Брэд.

Официантка принесла кофе, и я расплатилась с ней.

Я смотрела на эту девушку. В восемь утра она выглядела такой усталой, что я сама почувствовала усталость.

Мне нужен отпуск.

– Мне нужен отпуск, – сказала девушка, преувеличенно тяжело вздыхая.

Я прошла мимо стола секретарши. Доброе утро, Елена.

Пожалуйста, скажи что-нибудь другое. Я стиснула зубы. Пожалуйста.

– Доброе утро, Елена, – сказала она.

Я прошла мимо отсека Огдена. Это наш инженер-строитель. Погода, вчерашняя игра, Брэд.

Он увидел меня и встал.

– Отличная погода, верно? – Вытер пот со лба и улыбнулся. На работу он обычно бегает. – Смотрела игру вчера вечером? Лучшего удара не видел за десять лет. Невероятно! Эй, Брэд уже пришел?

На его лице ожидание, он ждет, что я последую сценарию, успокаивающей повседневной рутине.

Алгоритмы идут предопределенным курсом, и наши мысли следуют одна за другой, такие же механические и предсказуемые, как планеты на орбите. Часовщик – это и есть часы.

Я вбежала в свой кабинет и заперла дверь, не обращая внимания на выражение лица Огдена. Подошла к компьютеру и начала стирать файлы.

– Привет, – сказала Тара. – Что будем делать сегодня?

Я так быстро отключила ее, что сломала ноготь. Вырвала из ее спины источник энергии. И принялась работать отверткой и кусачками. Немного погодя переключилась на молоток. Убийство ли это?

Ворвался Брэд.