Искусственный интеллект и будущее человечества

Комната была совершенно пустой, за исключением стульев, на которых мы сидели, досок, письменного стола, на котором лежал открытый ноутбук, и одной книги – как я мельком разглядел, это был «Искусственный интеллект. Этапы. Угрозы. Стратегии» Бострома. Это был кабинет Нейта в Институте исследования машинного интеллекта (сокращенно – МИРИ) в Беркли. Полагаю, скудность обстановки была следствием того, что Нейт совсем недавно стал исполнительным директором, в прошлом году оставив прибыльную карьеру инженера по разработке программного обеспечения в Google и взлетев по карьерной лестнице в МИРИ. Он занял должность, ранее принадлежавшую Элиезеру Юдковскому, на которого ссылался Бостром, – теоретику искусственного интеллекта, автору идеи о квантовом скачке «от полнейшего дурачка до Эйнштейна», основателю МИРИ в 2000 году. Первоначально институт был назван Сингулярным институтом искусственного интеллекта, но был переименован в 2013 году, чтобы избежать путаницы с Университетом сингулярности, частным колледжем Силиконовой долины, основанным Рэймондом Курцвейлом и Питером Диамандисом.

Я знал, что Нейт героически относился к своему делу и к делу МИРИ. В своих статьях для рационалистического веб-сайта Less Wrong он активно обсуждал свое стремление спасти мир от неминуемого уничтожения. В одной из них я прочитал о его строгом католическом воспитании, о разрыве с верой в подростковом возрасте и о последующем погружении в «страсть, пыл и желание оптимизировать будущее» силой разума. Заявления Нейта в этих статьях показались мне преувеличенным следованием традициям Силиконовой долины, когда любой социальный или партнерский стартап пылко провозглашается призванным «изменить мир».

Нейт писал, что в четырнадцать лет осознал хаос человеческого бытия и происходящего вокруг него, и дал себе обещание. «Я не обещал исправить правительства: политика – это средство для достижения целей, удобное решение для тех, кто не знает, что делать дальше. Также я не обещал изменить мир: не все изменения хороши. Нет, я обещал спасти мир. Это обещание все еще в силе. Мир уж точно не спасет сам себя».

Я был заинтригован стилем статей Нейта, в котором слились воедино логика и какой-то немногословный, слегка странный и противоречивый романтизм, который подчеркивал идеализацию чистого разума – важный аспект не только трансгуманизма, но и более широкой культуры науки и техники, того, что я стал называть магическим рационализмом.

Сейчас он говорил о величайших преимуществах, которые откроются с появлением искусственного сверхинтеллекта. Он сказал, что, развивая такую преобразующую мир технологию, мы должны делегировать все будущие инновации, весь научно-технический прогресс искусственному интеллекту.

Подобного рода утверждения были более или менее обыденными в мире технологий, в мире тех, кто верил в возможность создания искусственного интеллекта. При должном использовании сила таких технологий привела бы к стремительному росту объема нововведений и инноваций и к состоянию постоянной коперниканской революции. Вопросы, которые беспокоили ученых на протяжении веков, решались бы за несколько дней, часов, минут. Лекарства от болезней, уничтоживших огромное количество людей, нашлись бы одновременно с изобретением гениального решения проблемы перенаселения планеты. Услышать о подобном – это представить бога, давно отрекшегося от своего творения, триумфально вернувшимся под видом программного обеспечения – сути цифрового мира.

– С помощью искусственного интеллекта, о котором мы говорим, можно будет гораздо быстрее достичь физически доступных пределов, – сказал Нейт. – И совершенно очевидно: в таком мире станет возможна загрузка человеческого разума.

Нейт был убежден, что мы обретем цифровой рай, если нам удастся избежать уничтожения машинами. По его мнению, нет ничего мистического или фантастического в загрузке, потому что, как он выразился, «нет ничего особенного в углероде». Мы сами были механизмами, как и все в природе. Например, деревья Нейт описывал как «нанотехнологические машины, превращающие грязь и солнечный свет в еще большее количество деревьев».

Он сказал, что однажды мы достигнем достаточной вычислительной мощности, чтобы полностью, вплоть до квантового уровня, смоделировать функционал нашего мозга, который сейчас реализован в его текущей форме, в форме плоти.

Подобный функционалистический взгляд на сознание был популярен среди исследователей искусственного интеллекта и был в некотором смысле основой для всей области: разум – это программа, определяемая не тем, на чем запущена, а сущностью операций, которые способна выполнить (проект, над которым работали такие люди, как Рэндал Кунэ и Тодд Хаффман, несмотря на всю его сложность и отдаленность, мог бы быть закончен за выходные с помощью такого сверхинтеллекта, о котором говорил Нейт).

– Многие не осознают, – продолжал Нейт, – что, пока мы сидим тут, беседуя, на самом деле мы используем нанокомпьютеры для обмена информацией.