Тульпа

– Судя по всему, на следующем этапе людей собираются отливать в готовые формы, как болванки. А у стандартного изделия все реакции предсказуемы заранее, для этого никакие предварительные наблюдения не нужны.

– Но это же невозможно! – возмутился Серфер. – Люди же все разные, совсем непохожие! Каждый человек уникален!

– Ты преувеличиваешь, – возразил КуДзу. – Сейчас как раз идет работа по полной классификации психотипов. И их там, если не ошибаюсь, всего шестьдесят четыре. По этой теории, почти все наши проблемы происходят из-за того, что мы часто выбираем способы реагирования, не соответствующие нашему психотипу. Но в будущем у детей хотят блокировать саму возможность любых реакций, кроме аутентичных. Комитет считает, что ранняя диагностика и соответствующее воспитание могут это обеспечить. И если у них все получится, из детей-болванок будут вырастать взрослые болванки, полностью просчитываемые и предсказуемые. Причем предсказуемые уже не на уровне индивида, а на уровне всего типа.

– Ничего у них не получится! – воскликнул Серфер.

– Будем надеяться, – ответил КуДзу, – иначе твоему поколению будет очень неуютно в этом новом мире.

Пока Серфер наливал себе вторую кружку, КуДзу успел достать готовую пиццу и разложить ее по тарелкам. Серфер жадно набросился на свою порцию, утоляя внезапный голод. Только разделавшись со вторым куском, он смог, наконец, вернуться к главному вопросу, мучившему его в последние дни.

– Слушай, я все думаю про эту девушку, про Наташу. Я ведь ее сильно обидел?

– Даже не сомневайся, – подтвердил КуДзу.

– Но я же был уверен, что это тульпа.

– Разумеется. Иначе бы ты так не сказал.

– Вот я и хочу спросить. А если бы это все же была тульпа – она бы так же обиделась?

– Да, реакция была бы точно такой же. Ну, или очень близкой.

Серфер недовольно поморщился.

– Я не про реакцию! Скажи, тульпа бы обиделась? Она может чувствовать? Может думать, осознавать себя – как мы?

КуДзу отодвинул тарелку, поставил локти на стол и сцепил пальцы.

– Хороший вопрос. Твой отец любил поговорить на эту тему. Кстати, философы бьются над ней уже давно, они даже специальные термины придумали – китайская комната, мельница Лейбница, философский зомби. В практической сфере – тест Тьюринга. Слышал о таком?

– Слышал. Так все же – мыслит?

– Мы считаем, что нет. Что комплекс просто механически подбирает наиболее вероятный вариант вербального реагирования на основе имеющейся информации. По заранее определенным алгоритмам. Никакой свободы воли, чистая математика. Правда, тут есть один маленький нюанс…

– Какой?

– Твой отец называл это проблемой интерсубъективности. Если ты не считаешь тульпу мыслящей личностью – у тебя точно так же нет оснований считать такой личностью и меня. Вернее, основания тут совершенно одинаковы. Мы считаем других людей мыслящими лишь потому, что они похожи на нас; по аналогии. А программа на нас не похожа. Но это, сам понимаешь, основание довольно сомнительное.

Серфер упрямо мотнул головой.

– Но все же есть вероятность, что тульпа мыслит?

– Мы не можем с полной уверенностью этого отрицать. Если система становится настолько сложной, что ее реакции уже неотличимы от человеческих, никто не может сказать, каковы будут побочные эффекты.

– А как это связано со сложностью? – не понял Серфер.

– Видишь ли, искусственный интеллект моделирует мир как совокупность взаимодействующих объектов. Но по мере усложнения модели, начиная с какого-то момента, он вынужден включать самого себя в число рассматриваемых объектов. И свой прогноз относительно собственных реакций включать в общую систему прогнозов. Формально это и есть рефлексия. А чем это может сопровождаться, мы и представить не можем. Мы и о своем-то сознании практически ничего не знаем.

15 лет 24 дня, вечер

Серфер допил вторую кружку и почувствовал сильное желание облегчиться.

– Где у тебя туалет? – спросил он.

– Первая дверь налево, не заблудишься.

– А я сейчас точно в настоящей реальности? Не в твоем кресле?

– В самой что ни на есть реальной реальности, – подтвердил КуДзу, – можешь не сомневаться.

Серфер вышел. Когда он вернулся на кухню, вопрос, не дававший ему покоя весь вечер, наконец окончательно оформился.

– Я вот что подумал – если тульпа подобна нам, если она мыслит и осознает себя, то, очищая оперативку, мы же каждый раз ее убиваем?

КуДзу удивленно посмотрел на него.

– Эк ты загнул! Я как-то об этом не думал. Навскидку могу сказать, что мы ведь тоже умираем каждый миг и возрождаемся в каждом новом кванте сознания.

– Но у нас есть непрерывность памяти! – возразил Серфер.

– Каждая тульпа создается с полным объемом памяти – а значит, и с точно такой же иллюзией непрерывности. От нашей иллюзии она ничем не отличается. К тому же для тульпы можно сохранять память обо всех ее вызовах, это тоже не проблема. Но лучше бы ты не зацикливался на вопросах о смерти. Потому что, как ни крути, а придешь к тому, что и тут мы от тульп тоже не слишком отличаемся.