Искусственный ты. Машинный интеллект и будущее нашего разума

Это подводит меня к шестой и последней рекомендации: если мы все же решим использовать искин среднего уровня, нам следует по возможности избегать ситуаций, связанных с принятием этических компромиссов в ущерб другим обладателям прав. Было бы обидно пожертвовать самосознающими существами ради устройств, не обладающих сознанием.

Все это, возможно, выглядит излишним, поскольку самосознающие искины кажутся научной фантастикой, но, когда речь заходит о продвинутом ИИ, мы неизбежно сталкиваемся с рисками и проблемами, выходящими далеко за пределы наших нормальных представлений.

Исследуем идею слияния разума и машины

Хотя успешное использование ИИ-технологий, очевидно, требует прочной научной базы, для их надлежащего применения необходимы также философские размышления, междисциплинарное сотрудничество, тщательное тестирование и общественная дискуссия. Все эти вопросы невозможно разрешить при помощи одной только науки. Из последующих глав этой книги станет ясно, что учет этого общего соображения и в других отношениях может стать ключом к нашему будущему.

Вспомните, например, ошибку Джетсонов. ИИ не только поможет нам создать более совершенных роботов и более мощные суперкомпьютеры. ИИ нас преобразит. Искусственный гиппокамп, нейронное кружево, импланты для лечения душевных расстройств – это лишь некоторые из преобразующих технологий, которые в настоящее время находятся в разработке. В будущем вполне может появиться Центр конструирования разума. Так что в нескольких следующих главах мы обратим взгляд внутрь и исследуем идею слияния человека с искусственным интеллектом, переноса личности на другой субстрат и обретения сверхразума. Как мы увидим, идея соединения человека с ИИ – это настоящее минное поле с классическими философскими проблемами, которые не имеют ясных решений.

Например, теперь, когда мы исследовали машинное сознание, можно по-настоящему оценить тот факт, что нам достоверно неизвестно, способны ли ИИ-компоненты эффективно заменить части мозга, отвечающие за сознание. Когда дело дойдет до такой замены, нейронное протезирование и нейронные импланты могут оказаться бессильны. В этом случае человек никогда не сможет безопасно слиться с ИИ, поскольку неизбежно потеряет самое главное в жизни – свое сознание.

В таком случае, наверное, преобразования мозга придется ограничить в каких-то отношениях. Во-первых, скорее всего, придется ограничиться теми частями мозга, которые точно не составляют нейронную основу осознанных переживаний. То есть в областях мозга, отвечающих за сознание, можно будет использовать только биологические компоненты. Во-вторых, не исключено, что в этих областях будут возможны наноизменения и даже использование наноразмерного ИИ при условии, что он лишь дополнит работу соответствующих областей мозга, а не возьмет ее на себя. Обратите внимание: в обоих случаях соединение или слияние человека и искина не рассматривается, хотя ограниченная интеграция все же возможна. Ни в том ни в другом сценарии никто не сможет загрузить свою личность в облако или заменить всю нервную ткань ИИ-компонентами. Но расширение других функций все же возможно.

В любом случае со временем появятся новые технологии, так что нельзя сказать наверняка, как будет развиваться ситуация. Если все же предположить дискуссии ради, что компоненты ИИ смогут заменять части мозга, отвечающие за сознание, то даже в этом случае, как показывает следующая глава, у нас будут причины сопротивляться слиянию с ИИ. Как и раньше, мы начнем с вымышленного сценария, придуманного, чтобы помочь вам разглядеть достоинства и недостатки радикального усовершенствования.

Глава 5 Могли бы вы слиться с ИИ?

Представим, что сейчас 2035 год. Вы технофил и потому решаете встроить себе систему мобильного интернет-подключения в сетчатку глаза, а через год расширяете свою кратковременную память при помощи нейронных схем. Вы теперь – официальный киборг. Перенесемся в 2045 год. Нанотехнологии позволяют вам продлить жизнь, и вы продолжаете использовать самые передовые и масштабные средства расширения возможностей организма.