Искусственный ты. Машинный интеллект и будущее нашего разума

В отчаянном положении нужны радикальные меры. Решение использовать один или несколько нейронных протезов ради повышения шансов на возрождение Ким кажется рациональным, если соответствующая технология будет отработана. Однако я совершенно не уверена, что попытка загрузить ее мозг в компьютер стала бы формой возрождения. Загрузка в компьютер, по крайней мере как средство выживания, опирается на порочное концептуальное основание.

Так что же, все проекты по загрузке мозга в компьютер следует прекратить? Даже если эта технология не выполнит своих первоначальных обещаний и не даст цифрового бессмертия, она, вполне возможно, окажется полезной для нашего биологического вида. Например, какая-нибудь глобальная катастрофа может сделать Землю непригодной для биологических форм жизни и загрузка в компьютер может оказаться способом сохранения человеческого образа жизни и мышления, если не самих людей. А если загруженный в компьютер разум в самом деле будет обладать сознанием, то представители нашего биологического вида, оказавшись перед лицом смерти, может быть, оценят это. Более того, даже если загруженный разум не будет обладать сознанием, использование моделей человеческого разума может оказаться более безопасным и эффективным способом освоения космоса, чем отправка в полет живых людей. Публике, как правило, нравятся пилотируемые полеты в космос, хотя роботизированные миссии кажутся более эффективными. Возможно, использование загруженного разума тоже понравится публике. Загруженный разум мог бы даже управлять процессом терраформирования в негостеприимных мирах, чтобы подготовить их для людей. Кто знает.

К тому же загрузка мозга могла бы подтолкнуть развитие методов лечения мозга и расширения его способностей и, таким образом, пойти на пользу человеку или животным. Исследователи ИИ, нацеленные на создание искинов, способных интеллектуально конкурировать с человеком, возможно, найдут ее полезным средством разработки ИИ. Кто знает, не будут ли искины, происходящие от нас, отличаться большей доброжелательностью по отношению к нам?

Наконец, некоторые люди по понятным причинам захотят завести себе цифровых дублей. Если вы узнали, что скоро умрете, вам вполне может захотеться оставить после себя свою копию, которая сможет общаться с вашими детьми или завершить начатые проекты. Мало того, в роли личных помощников – этаких Siri и Alexa будущего – возможно, будут выступать загруженные в компьютер копии умерших людей, которых мы при их жизни глубоко любили. Возможно, нашими друзьями станут наши же копии, подправленные так, как нам захочется. И не исключено, что мы вдруг разглядим в этих цифровых копиях самосознающие создания, которые заслуживают уважительного отношения.

Заключение: Послежизнь мозга

Стержнем этой книги является диалог между философией и наукой. Мы уже видели, что научные основы новых, нарождающихся технологий могут, с одной стороны, бросить вызов нашим представлениям о разуме, собственном «я» и личности, а с другой – заметно расширить их. И наоборот, философия улучшает наше видение того, чего могут достичь эти нарождающиеся технологии: могут ли существовать обладающие сознанием роботы, можно ли заменить значительную часть мозга микрочипами и при этом быть уверенным, что человек останется самим собой, и т. д.

Я попыталась в самых общих чертах исследовать возможности конструирования разума. Хотя мы не знаем, будут ли существовать такие места и компании, как Immortex или Центр конструирования разума, их появление меня бы не удивило. Сегодняшние события говорят сами за себя: именно сейчас разрабатываются искины, которые в ближайшие несколько десятилетий заменят на рабочих местах большинство работников – как белые, так и голубые воротнички; именно сейчас активно прощупываются пути слияния человека и машины.

Я не считаю, что сложные продвинутые искины непременно будут обладать сознанием. Нет, я выступаю за взвешенный, промежуточный подход – тот, что отвергает мысленный эксперимент с китайской комнатой, но при этом не исходит априори, основываясь на вычислительной природе мозга или концептуальной возможности изоморфов, из того, что продвинутый искин будет обладать сознанием.

Не исключено, что самосознающий искин нельзя построить на практике, а сознание на ином, небиологическом субстрате вообще противоречит законам физики. Но если мы будем тщательно проверять создаваемые нами искины на наличие сознания, то сможем подойти к этому вопросу с должной осторожностью. А публичная дискуссия без скатывания к технофобии или к тенденции видеть сознание в каждом искине, который на первый взгляд напоминает человека, позволит нам лучше судить о том, следует ли создавать самосознающий ИИ и если следует, то как. Общество должно делать выбор в этих вопросах очень осторожно и при участии всех заинтересованных сторон.