Искусственный ты. Машинный интеллект и будущее нашего разума

На мой взгляд, с этической точки зрения лучше всего считать, что продвинутый искин может оказаться самосознающим, по крайней мере до тех пор, пока мы не разработаем надежные тесты для выявления сознания. Любая ошибка может негативно сказаться на спорах о том, могут ли искины заслуживать особого этического отношения как самосознающие существа, и ошибаться здесь лучше в безопасную сторону. Неспособность распознать самосознающую машину может не только вызвать ненужную боль и страдание. Как показывают такие фильмы, как «Из машины» и «Я, робот», отсутствие милосердия к искину может вернуться к нам бумерангом, заставить машины относиться к нам так же, как мы относились к ним.

Кому-то из читателей помоложе когда-нибудь, возможно, и правда придется принимать решения, связанные с конструированием разума. Если вы относитесь к их категории, то мне хотелось бы дать вам следующий совет: прежде чем совершенствовать свой мозг, необходимо как следует поразмыслить над тем, кто вы есть. Если вы не уверены до конца в глубинной природе личности, как я например, выбирайте постепенные изменения и усовершенствования на биологической основе, – те, что отражают тип перемен, которые претерпевает нормальный мозг в процессе обучения и взросления. С учетом мысленных экспериментов, которые подвергают сомнению наиболее радикальные подходы к усовершенствованию, и отсутствия согласия в спорах об идентичности личности, осторожный подход выглядит наиболее благоразумным. Лучше всего избегать радикальных, быстрых изменений, даже тех, которые не меняют тип субстрата (например, углерод на кремний). Разумно также избегать попыток «переноса» разума на другой субстрат.

Пока мы не узнаем больше о синтетическом сознании, нельзя быть уверенным в том, что передача ключевых ментальных функций ИИ-компонентам в тех частях мозга, которые отвечают за сознание, безопасна. Конечно, нам еще только предстоит определить, обладает ли искин сознанием, так что неизвестно, будете ли вы (или, может быть, точнее сказать – ваша ИИ-копия) хотя бы самосознающим существом, если попытаетесь слиться с машиной.

В настоящий момент, как вы видели, посещение Центра конструирования мозга может принести разочарование и даже стать опасным. Мне хотелось бы указать вам ясный и однозначный путь и провести вас безопасным маршрутом через дебри решений по конструированию разума. Но вместо этого приходится ограничиваться следующим посланием: любые решения по конструированию разума необходимо рассматривать в первую очередь в ключе метафизического смирения. Помните о рисках. Будущее разума, будь то человеческий разум или разум робота, – это вопрос, требующий открытого диалога и философского рассмотрения.

Приложение

Трансгуманизм

Трансгуманизм – не монолитная идеология, но у него все же есть официальная декларация и организация. Всемирная трансгуманистическая ассоциация – это международная некоммерческая организация, которую основали в 1998 г. философы Дэвид Пирс и Ник Бостром. Основные постулаты трансгуманизма изложены в приведенной ниже Декларации трансгуманизма[126].

Декларация трансгуманизма