Борьба разумов. Фантастическая реальность

На следующее утро с восходом солнца я летел на запад Соединённых Штатов. Четыре часа лёта и четыре часа разницы во времени. Я влюбился в Сан-Франциско с первого взгляда. Он предстал передо мной как город туманов и вечной тёплой осени. Температура в любое время года около 22 градусов по Цельсию, не увеличивается и не уменьшается больше чем на два градуса. Город расположен на холмах, которые спускаются одной стороной к Тихому океану, а другой к заливу. Залив рассекает город на части, соединённые огромными вантовыми мостами ярко-красного цвета. Океан приносит в город туманы, он же их и разгоняет, кормит людей всем, что рождает, и грозит могучими волнами, с рёвом обрушивая их на городские набережные. Город с почтением смотрит в океан с высоких холмов, по которым проложены улицы в старом викторианском стиле. Трамвай – свидетель прошлого, с помощью лебёдки поднимается от набережной на самый высокий холм города и оттуда весело, с переливчатым звоном устремляется вниз, к океану, проносясь под восторженные крики туристов мимо прекрасных оранжерей цветов. Цветы в городе везде – возле громад офисных зданий и возле уютных двухэтажных домов, будто перенесённых сюда с туманного Альбиона, затерявшегося в далёком Атлантическом океане.

Сам город построен в точке равновесия между холодным севером и жарким югом, влажным воздухом океана и сухим ветром пустынь. Здесь природа достигла своего компромисса. Жаркое лето спряталось за холодную зиму, оставив городу красоту весны и богатство осени. Океан стал главным распорядителем жизни, люди подчинились его правилам, и в изобилии получают за это плоды земли и воды. Чтобы их взять, людям нужно трудиться, и только необходимость труда отличает этот район Земли от ветхозаветного рая, где Бог всё предоставляет даром. А может ли быть райская жизнь без труда, который радует человека и приносит удовольствие? Мне кажется, что в ответе на этот вопрос древние мудрецы Сиона что-то не додумали.

На следующий день я взял напрокат машину и поехал в Силиконовую долину, мировой центр вычислительной техники. Её столица находится в 65 километрах южнее Сан-Франциско, но природа там отличается разительно – в Силиконовой долине жарко, сухо и пыльно. Среди чахлой растительности возвышаются бетонные блоки офисных зданий, производственных помещений и складов, светятся неоновые вывески всемирно известных телекоммуникационных и компьютерных фирм: Apple, Google, Cisco Systems, Oracle, Microsoft. Здесь я договорился встретиться с одним из известных конструкторов вычислительной техники.

Разговор начался с моего главного вопроса.

– Джон, Вы являетесь крупнейшим специалистом по созданию искусственного интеллекта. Я хочу спросить у Вас – верите ли вы в существование Искусственного разума?

– Сначала вопрос к Вам: что Вы под ним понимаете?

– Искусственно созданное существо, способное принимать решения, исходя из своих целей.

– Нет, такого разума не существует, любое искусственное создание принимает решения из целей, заложенных в него человеком. Если оно отклоняется от них, то это считается ошибкой, сбоем, и существо должно прекратить свою деятельность.

– А если оно не прекращает?

– Тогда его уничтожают либо переводят в режим, не имеющий катастрофических последствий.

– Можно, я изменю вопрос: все ли решения, принимаемые интеллектуальным существом, контролируются человеком?

Джон задумался, а потом ответил, как мне показалось, не совсем уверенно.

– Нет, не все. Это невозможно и ненужно. Есть специально выбранные точки, которые могут контролироваться человеком, чтобы не допустить дальнейшей неправильной работы системы.

– Можно ли быть полностью уверенным, что вне участка контроля система не ведёт себя непредсказуемо и человек в контрольной точке этого не замечает?

– Полностью – нет, поэтому строятся новые контролируемые точки, чтобы вероятность бесконтрольных действий машины свести к нулю.

– Это похоже на борьбу человеческого разума с искусственным. В этой борьбе каждая из сторон исходит из своих целей.

Джон рассмеялся.

– Да нет же, если это сбой или ошибка, то она должна быть просто исправлена машиной или человеком.

– Выходит, что Вы боретесь с Искусственным разумом, отрицая его существование?

– Не совсем так. Мы создаём вычислительную систему под наши цели, не допуская следования к непредвиденным целям.

– Я делаю вывод, что мы понимаем искусственный разум одинаково, только по-разному называем цели, которым он может следовать. У меня они «собственные», у Вас – «непредвиденные», – торжествующе заключил я.

– Пусть будет так, – ответил Джон и закурил электронную сигарету, обдав меня облаком дыма. – Только это ничего не меняет. Искусственного разума, стремящегося к своим целям, не существует.

– Быть может это такой же обман, как уверенность в безвредности электронной сигареты по сравнению с обычной. Что Вас может убедить в наличии у вычислительной системы собственных целей?

Джон вновь задумался. После своего согласия с тождеством «собственных» и «непредвиденных» целей, свобода выбора аргументов против моих утверждений у него уменьшилась.