Искусственный ты. Машинный интеллект и будущее нашего разума

Подводя итог, скажу, что создание технологий космических путешествий и связи и появление постбиологического разума разделяет, судя по всему, очень небольшое временное окно. Внеземные цивилизации, скорее всего, давным-давно миновали это окно. Они, по всей вероятности, много старше нас и потому должны были достичь не просто постбиологической стадии, а сверхразума. Наконец, по крайней мере некоторые из них, надо полагать, состоят скорее из искинов, чем из биологических существ, потому что кремний и другие материалы лучше подходят на роль субстрата для систем обработки информации. Из всего этого я заключаю, что если жизнь действительно существует на множестве других планет и если продвинутые цивилизации действительно развиваются и не гибнут, то представителями наиболее продвинутых инопланетных цивилизаций, скорее всего, будут сверхразумные искины.

Разговоры на эти темы сильно смахивают на научную фантастику и могут встретить недопонимание, поэтому подчеркну: я не утверждаю, что подавляющая часть жизни во Вселенной имеет небиологическую природу. Львиная доля живого на Земле, например, приходится на микробов[80]. Я не говорю также, что «контролировать» Вселенную или «доминировать» в ней непременно будет один-единственный сверхразумный искин вроде Скайнета из фильмов о Терминаторе, хотя, безусловно, стоило бы поразмышлять об ИИ-безопасности в контексте этих вопросов. (Очень скоро я так и сделаю.) Я всего лишь предполагаю, что представителями наиболее продвинутых инопланетных цивилизаций окажутся сверхразумные искины.

Предположим, что я права. Какие выводы следует из этого сделать? В этом смысле показательны нынешние дебаты по поводу искусственного интеллекта на Земле. Два вопроса – так называемая проблема контроля и природа разума и сознания – очень важны для наших представлений о том, как могут выглядеть сверхразумные инопланетные цивилизации. Начнем с проблемы контроля.

Проблема контроля

Сторонники концепции постбиологического космоса предполагают, что именно машины станут следующим этапом эволюции разума. Мы с вами и то, как мы живем в настоящий момент, – это всего лишь промежуточный этап, очередная ступенька на эволюционной лестнице. Эти люди смотрят на постбиологическую фазу эволюции оптимистически. Другие, напротив, глубоко обеспокоены тем, что человек может потерять контроль над сверхразумом, поскольку тот способен переписать текст собственной программы, перехитрить нас и обойти любые предохранители, которые мы в него встроим. Искусственный интеллект может стать нашим величайшим изобретением – и притом последним. Все это называется «проблемой контроля» – проблемой способности землян контролировать ИИ, который намного умнее нас и при этом непостижим.

Мы уже говорили, что сверхразумный ИИ может быть создан при достижении технологической сингулярности – момента, когда все более стремительные технологические успехи, особенно взрывное развитие ИИ, достигают уровня, на котором люди уже не могут предсказывать или понимать технологические изменения по ходу их развертывания. Но даже если сверхразумный ИИ возникает менее драматичным образом, у нас не обязательно будет возможность предвидеть или контролировать его цели. Даже если бы мы могли решить, какие нравственные принципы следует встроить в машины, их было бы трудно запрограммировать и защитить от переписывания сверхразумом. Умная машина сумеет обойти любые предохранители, в том числе аварийные выключатели, и будет потенциально представлять угрозу для биологической жизни.

Проблема контроля очень серьезна – возможно, даже нерешаема. В самом деле, после прочтения убедительной книги Бострома по проблеме контроля «Искусственный интеллект: Этапы. Угрозы. Стратегии»[81] ученые и лидеры бизнеса, такие как Стивен Хокинг и Билл Гейтс, во всеуслышание заявили, что сверхразумный ИИ может угрожать роду человеческому, и эта новость попала во все мировые СМИ. В настоящее время в организации, которые занимаются ИИ-безопасностью, вкладываются миллионы долларов и над проблемой работают лучшие умы в области информатики. Рассмотрим следствия, которые может иметь проблема контроля для проекта SETI.

Active SETI

Обычно в поисках жизни во Вселенной ученые вслушиваются в эфир в надежде поймать потенциальные радиосигналы внеземного разума. Но некоторые астробиологи считают, что нам следует пройти дальше. По мнению сторонников проекта Active SETI, нам нужно также использовать самые мощные радиопередатчики, такие как гигантский радиотелескоп Аресибо[82] в Пуэрто-Рико (см. фото), для отправки сообщений в направлении ближайших к Земле звезд с целью начать разговор[83].