Общая теория капитала. Самовоспроизводство людей посредством возрастающих смыслов. Часть третья

Универсализация средств производства началась с процесса обработки информации, но здесь она не заканчивается. Компьютер как универсальная машина для работы с информацией должен быть расширен до универсальной машины для работы с энергией. Робот должен быть способен брать энергию из среды и выполнять неограниченный круг задач. Видимо, здесь необходима общая теория энтропии в естественных и социальных науках, которая будет объяснять информационные и энергетические явления на основании единого подхода. Общая теория энтропии станет основой для тройного синтеза наук, необходимого в условиях развития ИИ.

Общество людей и желающие машины

Второй предел для обычного самовоспроизводства ставится развитием сильного ИИ. Наше исследование начиналось с людей как живого субъекта культуры и смыслов как ее возрастающей субстанции. Теперь же выросшие смыслы из субстанции культуры грозятся стать ее субъектом, а фантасты придумывают, как из людей можно сделать культурную субстанцию. В 2020-х годах даже самый изощренный искусственный интеллект еще не имеет потребностей и желаний, не может самостоятельно определять цели своего функционирования. Но ситуация может меняться. Вряд ли можно остановить эволюцию смыслов и развитие сильного ИИ. Стивен Хокинг говорил в 2017 году: «Джинн выпущен из бутылки. Нам нужно двигаться вперед в развитии искусственного интеллекта, но мы также должны помнить о его очень реальных опасностях. Я боюсь, что ИИ сможет полностью заменить людей. Если есть люди, кто разрабатывает компьютерные вирусы, то кто-нибудь создаст ИИ, который воспроизводит самого себя. Это будет новая форма жизни, которая превзойдет людей».

Будучи способом человеческого самовоспроизводства, смыслы всегда отвечают человеческим потребностям и нормам, вырастающим из природы человека как животного и как социального существа. Поэтому линейной эволюции смыслов недостаточно, чтобы создать искусственного человека. Эволюция смыслов лишь накапливает информацию. Чтобы информация о сильном ИИ превратилась в событие сильного ИИ, необходим разрыв в эволюции, необратимое усиление. Такое усиление может быть произведено лишь на достаточной ступени сложности: «Действительно существенные и активные явления жизни и обучения начинаются лишь после того, как организм достиг некоторой критической ступени сложности: и хотя эта сложность, вероятно, достижима при помощи чисто технических, не очень трудных средств, тем не менее требуется предельное напряжение таких средств» (Винер 1958, с. 211).

Поскольку самовоспроизводство людей опосредуется возрастанием смыслов, а возрастание смыслов опосредуется самовоспроизводством людей, то в беспрестанно повторяющемся цикле взаимного воспроизводства теряются его начало и конец. Смыслы становятся средством воспроизводства людей, а люди — средством воспроизводства смыслов. Становится неясно, являются ли средства самовоспроизводства на самом деле средствами для воспроизводства человека, или уже человек стал средством воспроизводства своих смыслов — в их облике искусственного разума.

С одной стороны, эволюция смыслов постепенно снимает природные ограничения с человеческого вида, создает человечество как сверхприродное явление. С другой стороны, теперь люди оказываются ограничены пределами смысла и понимают это. Выходя за пределы возможностей человеческого тела (создавая орудия труда и искусственное тело), люди не могут выйти за пределы смысла. Напротив, сам смысл грозит выйти за пределы человечества и образовать сферу сверхчеловеческого. В 1960-х Николай Амосов писал о проблемах, которые связаны с развитием искусственного интеллекта. Первая из них проявляется уже теперь, в 2020-х годах, на стадии слабого ИИ. Вторая проблема, видимо, станет актуальной позднее, по мере развития сильного ИИ: