Это всё квантовая физика! Непочтительное руководство по фундаментальной природе всего

Эпоха ИИ общего назначения

В 2020 году компания OpenAI объявила, что ей удалось создать систему автодополнения текста под названием GPT-3. Подобно ИИ в вашем телефоне, который предлагает дописывать слова, GPT-3 обучили предсказывать следующее слово в предложении, которое пишет пользователь. Однако оказалось, что GPT-3 может гораздо, гораздо больше. Помимо автодополнения GPT-3 умеет переводить с одного языка на другой, сочинять эссе, писать код, делать несложный веб-дизайн, отвечать на вопросы и еще много всего.

С появлением GPT-3 эпоха узконаправленных ИИ осталась в прошлом. Впервые одна система искусственного интеллекта могла решать широкий спектр задач, достигая такого уровня общего интеллекта, какой всего за несколько месяцев до этого был буквально научной фантастикой.

Но как? Модель GPT-3 не была особенно навороченной. Единственным ее преимуществом был масштаб.

GPT-3 – гигант. Какие там птичьи мозги! Эта модель в десять раз превосходила все, что было раньше, для ее обучения было использовано неимоверное количество текстовых данных со всего интернета, а вычислительная мощность у нее просто зашкаливает. Чему система GPT-3 нас действительно научила, так это тому, что масштабирование относительно скучных узконаправленных моделей позволяет создать ИИ общего назначения с примерно человеческой производительностью. И насколько мы можем судить, нет никаких очевидных пределов тому, как далеко это масштабирование способно зайти[11].

С появлением GPT-3 во всей отрасли начались состязания в масштабировании искусственного интеллекта. Теперь в этой гонке участвуют еще и системы, которые обучаются не только делать автодополнение на основе текстовых данных, но и обрабатывать изображения, текст, видео и аудио одновременно. Мы в буквальном смысле создаем системы, способные воспринимать мир ничуть не хуже людей, и масштабирование, похоже, предлагает нам прямой путь к превращению этих систем в машины, способные мыслить на человеческом и сверхчеловеческом уровне, и потенциально не нуждается ни в каких дальнейших фундаментальных прорывах.

Что возвращает нас к тому, ради чего мы здесь все собрались, – к физике сознания и свободы воли.

Почему сознание важно

Недавно я подверг свой ковер очистке паром и в процессе наверняка убил десятки тысяч ни в чем не повинных пылевых клещей. Однако сон из-за этого не потерял – хотя, возможно, стоило бы.

Большинство из нас интуитивно чувствует, какие существа соответствуют критерию «созданий, о которых нам следует заботиться и которых нужно стараться не обижать». Едва ли не самый распространенный и, на мой взгляд, убедительный способ провести такую грань основан на уровне сознания, которым существо, по нашему мнению, наделено. Нам кажется, что, поскольку сознательные существа что-то чувствуют, нехорошо заставлять их испытывать плохие чувства.

Если вы согласны с этим интуитивным критерием, стоит задуматься, что это означает в контексте искусственного интеллекта. В ближайшие десятилетия мы, вероятно, будем создавать программы ИИ, обладающие когнитивными способностями человеческого существа. Программы, способные рассуждать и думать. Программы, наделенные значительным уровнем самосознания и умения принимать решения.

И все это будут просто компьютерные программы. Программное обеспечение, которое можно воспроизводить – и его будут воспроизводить, пока у людей найдутся на то экономические стимулы. А стимулы, конечно, найдутся: что может быть лучше системы ИИ общего назначения, которая тебе и налоговую декларацию подаст, и обед приготовит? Миллиард таких систем, обслуживающих миллиарды домов. А может, и триллионы, если уж на то пошло. В конце концов, когда вычислительная мощность, необходимая для таких программ, станет достаточно дешевой, новую мыслящую машину можно будет просто копипастнуть.

Беда в том, что люди как-то не славятся хорошим обращением с теми существами, которых не считают «в достаточной степени сознательными». Не то чтобы мы активно стараемся причинить им вред. Но, будь то истребление пылевых клещей, промышленное животноводство или принуждение волов тащить наши плуги, мы привыкли относиться к существам, не достигающим нужного уровня сознания, как к орудиям, средствам, обеспечивающим процветание существ, достигших этого порогового уровня сознания.

Если мы не будем осторожны и не сумеем правильно определить и распознать сознание в системах искусственного интеллекта, то рискуем однажды узнать, что невольно истязали триллионы триллионов искусственных разумов, наделенных сознанием, и причинили немыслимые по масштабам страдания.

Сознание – важнейший открытый вопрос, касающийся будущего ИИ, однако не менее, пожалуй, важен и вопрос о свободе воли. Сегодня мы делегируем машинам все больше и больше мыслительных задач. Мы позволяем ИИ брать на себя управление все более важными вещами – как модерировать контент и автоматически отмечать нежелательное, так и управлять автомобилями и военными беспилотниками.