Общая теория капитала. Самовоспроизводство людей посредством возрастающих смыслов. Часть третья

Если слабый ИИ есть лишь средство для деятельности человека, то гипотетический сильный ИИ сам является субъектом. Средства участвуют в деятельности, но не ведут деятельность, не могут сами менять ее сложность. Слабый ИИ, сколь бы большим расширением естественного интеллекта он ни был, даже если бы он позволил продлить жизнь людей в два раза, сам по себе не является субъектом. Если люди исчезнут, то с ними исчезнет и слабый ИИ. Сильный ИИ — это алгоритм творчества или «непредсказуемая случайность, ставшая неизбежной необходимостью». Он не исчез бы при исчезновении людей и смог бы сам повышать свою сложность. Возрастание смыслов постепенно создает его элементы, и некоторые из них, быть может, уже существуют, но целостное решение еще очень далеко.

Проблема состоит в том, что создать искусственного субъекта труднее, чем сохранить естественного. Предварительным условием создания сильного ИИ является, видимо, воспроизводство человека в искусственной форме. Невозможно создать нечто, что выходит за пределы человеческого, не повторив сначала самого человека. Прежде, чем создавать одушевленные машины, людям придется научиться переносить в машины уже имеющиеся живые человеческие души. Подлинное сообщение о том, что удалось создать искусственного субъекта, думается, придет не раньше, чем придет сообщение о том, что удалось добиться бессмертия человека.

Распределение забот по воспитанию детей между аллородителями, с которого, как считает Джозеф Генрих, началась в свое время человеческая культура, перекликается с идеей Манфреда Эйгена о гиперцикле. Согласно этой гипотезе, для возникновения жизни необходимо было преодолеть «порог ошибки», то есть максимальный размер, при превышении которого молекула РНК не могла передавать «по наследству» свои свойства. Этот порог оценивается примерно в 100 спаренных оснований. В современных молекулах этот порог преодолевается за счет ферментов, однако ферменты сами являются продуктом биологической эволюции. Согласно гипотезе Эйгена, «порог ошибки» был преодолен за счет того, что некоторые РНК смогли взять на себя функцию фермента и обеспечить другие молекулы возможностью увеличиться сверх порога ошибки (см. Szostak, Wasik and Blazewicz 2016). Таким образом, как в случае с началом биологической, так и в случае с началом культурной эволюции, они начались, когда были выполнены два условия:

● за счет количественного накопления изменений был достигнут некий порог, который сами представители популяции (молекулы, гоминиды) не могли преодолеть;

● часть популяции, в которой происходило это накопление, взяла на себя функцию не (только) по собственному воспроизводству, но и по развитию другой части популяции (фермент, воспитатель).

Применительно к той трансформации, которую мы ныне наблюдаем, то есть применительно к развитию ИИ, задачу количественного накопления выполняют люди, повышая вычислительную мощность машин и занимаясь их обучением. Однако такое количественное накопление, сколько бы оно не продолжалось, никогда не приведет к возникновению сильного ИИ, но будет лишь расширять естественный интеллект людей и их общества:

«Аналог идеи о том, что искусственный интеллект можно создать, накапливая трюки чатбота, — это ламаркизм, теория о том, что новые адаптации можно объяснить изменениями, которые в действительности являются лишь проявлением существующих знаний» (Дойч 2014, с. 208).

Для того, чтобы возник ИИ как субъект, нужен скачок, аналогичный появлению живой молекулы. Кто или что возьмет на себя роль «фермента», который позволит преодолеть «порог ошибки», и какой показатель в данном случае составляет такой порог? Думается, первым шагом к ответу на этот вопрос может быть ответ на вопрос: какой показатель (или показатели) составил в свое время порог для перехода от инстинктов к практикам, и от практик к интеллекту? Понимание законов эволюции смысла приобретает особую важность с учетом перспектив развития искусственного интеллекта. Решить задачу создания сильного ИИ — это то же самое, что решить трудную проблему субъекта: что такое свобода воли, есть ли она и как она появляется.

Для того, чтобы создать сильный искусственный интеллект, нужно воспроизвести все слои информации, имеющиеся в естественном интеллекте человека — то есть и некоторое подобие генетической информации, и все слои культурной информации, начиная от инстинктов через обучение и вплоть до интеллекта. Пока мы наблюдаем, как эти слои воспроизводятся в обратном порядке, причем нижние слои воспроизводятся более тяжело. Как гласит парадокс Моравека, компьютеру