Искусственный интеллект и будущее человечества

Я рассказал Рэндалу о некоторых проблемах, связанных с потенциальными последствиями его проекта. Я был достаточно обеспокоен, поэтому поделился с ним мыслями о том, насколько современная жизнь уже преобразована в код, в легко передаваемые и продаваемые базы личной информации. Каждое наше взаимодействие с технологиями создает все более детализированный потребительский портрет – единственную нашу версию, интересующую создателей этих технологий. Насколько хуже было бы существовать исключительно как информация? Неужели само сознание станет своего рода когнитивной компьютерной приманкой? Я рассказал, что уже представляю, как некая часть хитрого кода, органически вписанная в платформу модуля маркетинга моего сознания, будет побуждать мою природную слабость заказать стаканчик-другой «Сьерра-Невады».

А что, если такая процедура обретения бессмертия, эта эмуляция и загрузка разума, будет стоить настолько дорого, что только очень богатые люди смогут позволить себе премиальный аккаунт без рекламы, а остальным проигравшим придется бесконечно мириться с периодическим воздействием на их мысли, эмоции или желания неким коммерческим источником в некотором адском контент-партнерстве.

Рэндал не согласился с тем, что такая ситуация нежелательна. Тем не менее такие размышления не имели прямого отношения к его проекту, который должен скорее решить основную проблему человеческого бытия, нежели помешать любым непредвиденным последствиям.

– Сомневаюсь, – сказал он, – что подобное влияние на человека может оказывать только программное обеспечение. На биологические мозги также можно воздействовать. С помощью рекламы, скажем, или с помощью химических веществ. Не похоже, что ваше желание купить еще пива никак не связано с алкоголем, который вы уже выпили. Уверены, что ваши желания полностью независимы от влияния извне?

Я долго пил пиво, чтобы не заказывать еще одно. Зловонный запах травки густо растекся в этом теплом вечере, подобно сырому туману, ползущему из бухты. Всего в нескольких футах от нас, на углу улиц Фолсом и Лэнгтон, свернувшись калачиком под фонарным столбом, лежал бездомный. Все время, пока мы сидели, этот человек, лица которого я не мог разглядеть, тихо бормотал что-то, периодически истерично хохоча. Я вспомнил фразу из «Веселой науки» (Die fröhliche Wissenschaft) Ницше о том, какими странными, необычными и неправильными мы, вероятно, кажемся другим животным: «Боюсь, что животные видят человека как существо, подобное им, но утратившее свой животный здравый смысл; как безумное, крайне опасное животное; как смеющееся животное, плачущее животное, несчастное животное».

Возможно, мы безумны именно из-за нашей неспособности принять себя как животных, принять факт того, что умрем смертью животных. И почему мы должны его принимать? Такую мысль невозможно вынести, это недопустимая реальность. Могли бы вы подумать, что мы окажемся за пределами; могли бы вы подумать, что к сегодняшнему моменту мы сможем не мириться с дурацкой задумкой природы. Наше существование и сопутствующий невроз сопровождаются неразрешимым противоречием: мы находимся вне природы и над ней, подобно маленьким божествам. И все же мы беспомощны перед ней, навсегда ограниченные ее слепой и непримиримой властью.

Я заметил абсурдность наших представлений о мире: о возникновении жизни, о науке и о человеческом прогрессе. Внезапно я осознал, насколько все причудливо и нелепо: все эти обещания ученых об освобождении людей из плена плоти, этот неисправный «механизм» бездомного человека, бормочущего свои безумия и страдания в пустоту на тротуаре Сан-Франциско. И я, писатель, который сам себя сбил с толку мыслями о сути вещей, делая заметки, чтобы не забыть о хихикающем бродяге, о запахе травки, о ницшеанских безумных животных.

В течение нескольких недель и даже месяцев после возвращения из Сан-Франциско я был одержим идеей полной эмуляции мозга. Когда я отрывался от работы и прогуливался до кафе, то воображал, что слишком быстро проезжающая мимо машина залетает на тротуар и сбивает меня. Я представлял, что случится с моим телом, и ловил себя на мыслях о Рэндале и о его проекте отделения личности от субстрата. Когда я чувствовал себя уставшим или физически уязвимым, я (или мой мозг) особенно часто возвращался к Рэндалу, к нейронам червяка, мерцающим на ноутбуке Эдварда Бойдена в Лозанне и к фрагментам мышиного мозга, сохраненного в лаборатории компании 3Scan в Мишен-Бэй.