Проект Россия. Третье тысячелетие. Книга третья

В обозримом будущем мировая система перешагнет предел сложности, подконтрольный человеку. Основу информационно-аналитических центров уже сегодня составляют машины. Несложно увидеть создание платформы под будущий мостик, по которому власть перейдет к компьютеру. Генеральную стратегию еще корректирует человек, но его вмешательство сокращается.

С ростом искусственной природы возникает умаление человека как личности. Система оказывается сильнее человека. Если она принимает вредное для общества решение, и все понимают эту вредность, отменить решение никто не сможет. Найдется куча личных интересов, способных оправдать что угодно. Этот момент иллюстрирует пословица «кому война, кому мать родная».

Современная административно-финансовая машина может утвердить громадный бюджет на бесполезную работу. Нанятые специалисты и СМИ обоснуют ее необходимость. Деньги будут освоены, откаты откачены, личная прибыль получена. Под каким соусом это будет сделано, не имеет значения. Общество в любом случае удовольствуется лапшой на ушах.

Тотальная компьютеризация, с переходом власти от человека к машине, — вопрос времени, но не принципа. Очень скоро компьютерная система начнет подчинять себе не только экономическую и военную, но и политическую систему. Произойдет это в силу самых обыденных причин — так будет выгоднее и надежнее в сиюминутном плане. Когда техническое развитие мировой системы достигнет критического уровня, обозначится ее стремление объединиться в единую сеть. Количество перейдет в качество, порождая свойства, о которых даже помыслить трудно.

Очень скоро люди будут следовать рекомендациям компьютерных центров, как некогда следовали религиозным предписаниям метафизических центров. Понимать логику вычислительного Центра они не смогут в той же степени, что и логику Бога. Вся разница: Бог понимался источником Добра. Компьютерный Центр будет пониматься источником математической правды. Человечество на пороге новой религии, формируемой машиной.

Между предписаниями компьютера и религиозными предписаниями огромная разница. Нарушение религиозных предписаний не влечет сиюминутных последствий. Человек может покаяться, и с этой минуты считается чистым и не заслуживающим наказания.

Обратная ситуация складывается в мире, подчиненном не Слову, а Цифре. Если правительство нарушит указания математического Центра, это вызовет мгновенный лавинообразный эффект. Система сместит правительство. Новая власть будет покладистее. Она пойдет на самоубийственные шаги, лишь бы выполнить указание. Если Аппарат скажет «убивайте!», детали не смогут противиться.

На этапе формирования новой действительности люди будут нарушать указания компьютера (ради достижения своих малых целей). Это проведет систему через большие и малые катастрофы. Машина проанализирует их, и система из людей и компьютеров напишет новые программы, учитывающие человеческий фактор и блокирующие несанкционированную деятельность.

Глава 18

Чужая цель

Между техническим прогрессом и способностью человека управлять им постоянно увеличивается разрыв. Сегодня система перешагнула порог сложности. Формируется небиологическая форма жизни — искусственный интеллект. Как Афродита родилась из морской пены, так новое разумное «существо» рождается из материализма.

Согласно христианству, разумную жизнь может создать только Бог. Мы полностью разделяем такую позицию, но речь идет о математическом уме, а не о личности. Если есть компьютер, играющий в шахматы (и обыгрывающий человека), имеются основания полагать: в мировые шахматы новая сущность тоже сможет играть и обыгрывать человека.

Всякая разумная система стремится к благу, которое зависит от природы стремящегося. Например, у человека стремление к благу вытекает из его сверхвременной природы. Помня какой-то нечеловеческой памятью высший мир, он стремится вернуться к вечному благу. Возникает желание вечной жизни и удовольствия. Суть стремления атеистов и верующих одна — благо, но разное понимание мира рождает разные цели и разные технологии. Одни стремятся к земному раю, другие к небесному.

В чем может выражаться понятие блага у однажды появившегося, а до того никогда и нигде не существовавшего математического интеллекта (Центра)? Если проводить аналогию с известными формами жизни, от примитивной (бактерия) до небиологической (религия, государство, корпорация), все они характерны стремлением жить. Их понятие блага — избежать опасности, питаться, расти и усложняться. У искусственного интеллекта мы вправе предположить аналогичные стремления. Он будет хотеть жить как можно дольше, в идеале вечно, ради чего преодолевать препятствия.

По аналогии с разумной жизнью, однажды к этому стремлению добавится желание не просто жить, в смысле существовать, а жить хорошо. Что это «существо» вложит в понятие «хорошо», предвидеть невозможно. Если у разных людей разные понятия «хорошо», у разных систем тем более. Нет оснований надеяться, что у машины и человека понятие «хорошо» совпадет в пользу человека.