Искусственный ты. Машинный интеллект и будущее нашего разума

Похоже, эту проблему трудно решить способом, который совместим с идеей о том, что мы можем быть идентичны во времени своему прошлому или будущему «я». Определение граничной точки грозит стать субъективным. Если граница установлена, всегда можно предложить пример, убеждающий передвинуть ее чуть дальше, и так до бесконечности. Но серьезные размышления над этим вопросом заводят в тупик: если встать на платформу модифицированного паттернизма, то как тогда объяснить сохранение паттерна человека во времени, от младенчества до зрелости, ведь за это время происходит множество серьезных изменений в памяти, личностных качествах и т. п.? Почему вообще речь идет о каком-то постоянном «я»?

В самом деле, даже серия постепенных изменений совокупно порождает индивидуума B, который сильно отличается от его же детского «я», A. Почему у A и B должно быть соответствие идентичности, а не предшествование: A предшествует B? Иначе говоря, как определить, что будущее существо, возникшее после всех усовершенствований, это реально я, а не другая личность – своего рода «потомок» меня?

Здесь стоит остановиться на минутку и подумать о связи между предшественником и последователем, хотя это и не относится напрямую к нашей теме. Предположим, вы – предшественник. Ваша связь с последователем напоминает отношения родителя и ребенка, но в некоторых отношениях она даже более близкая, поскольку вам на собственном опыте известно прошлое этого нового существа. Оно – дитя вашего разума. Вы в буквальном смысле прожили все его прошлые мгновения. В отличие от этого, несмотря на чувство тесной связи с жизнью наших детей, мы не в состоянии буквально видеть мир их глазами. Однако в другом смысле эта связь слабее, чем связь многих родителей с детьми. Если вы не путешественник во времени, то вам никогда не оказаться со своим последователем в одной комнате. Подобно женщине, умирающей в родах, вы никогда не встретитесь с тем, кто придет вам на смену.

Может быть, дитя вашего разума будет скорбеть об уходе своего родителя, глядя на вас с глубокой привязанностью и понимая, что конец вашей жизни стал началом его собственной. Вы же, со своей стороны, возможно, будете чувствовать особую связь с тем спектром переживаний, что станут доступными порождению вашего разума после приобретенных усовершенствований. Не исключено, что вы даже почувствуете особую связь с существом, которое – вы знаете это – совершенно не будет на вас походить. Например, в процессе формирования разума вы, может быть, намеренно сделаете шаг к созданию сверхразумного существа, зная, что в случае успеха вы умрете.

Как бы то ни было, этот раздел показывает, что даже у модифицированного паттернизма есть ключевая проблема – необходимость определить, когда изменение паттерна человека совместимо с его выживанием, а когда нет. Пока этот вопрос не получит ясного ответа, над проектом фьюжен-оптимиста будет висеть черная туча. И это не единственная проблема модифицированного паттернизма.

Как избавиться от субстрата?

Вторая проблема модифицированного паттернизма ставит под сомнение саму возможность переноса личности человека на другой субстрат даже без когнитивных и перцептивных усовершенствований.

Предположим, что наступил 2050 год и люди проходят процедуры постепенной нейронной регенерации во сне. Во время ночного сна наноботы медленно вводят наноматериалы, вычислительно идентичные оригинальным. Затем те же наноботы постепенно удаляют старые материалы, помещая их в небольшой контейнер рядом с постелью.

Сам по себе этот процесс не представляет проблем для модифицированного паттернизма. Но теперь представьте, что регенерационный сервис позволяет желающим сделать, на всякий случай, копию своего мозга. Если человек выбирает эту процедуру, то в ходе еженощного процесса наноботы забирают замещенные материалы из контейнера и помещают их внутрь глубоко замороженного биологического мозга. Предположим, что к концу этого процесса материалы замороженного мозга полностью замещаются оригинальными нейронами человека, причем сконфигурированными точно так же, как они были сконфигурированы в оригинальном мозге.

Теперь предположим, то вы решили пройти эту дополнительную процедуру наряду с регенерацией. Со временем этот второй мозг замещается тем самым материалом, из которого первоначально состоял ваш мозг, причем сконфигурированным совершенно так же. Который теперь вы? Первоначальный мозг, состоящий из совершенно других нейронов, или мозг, куда переместились все ваши оригинальные нейроны? Сторонник модифицированного паттернизма скажет о нейронной регенерации следующее: вы – это существо с мозгом из совершенно другого вещества, поскольку именно оно следует по непрерывной траектории в пространстве-времени. Но дальше все идет наперекосяк: почему пространственно-временная непрерывность должна перевешивать остальные факторы, такие как состав мозга, его оригинальный субстрат?