Что мы думаем о машинах, которые думают. Ведущие мировые ученые об искусственном интеллекте

В качестве примера можно рассмотреть американский футбол. Дэвид Ромер, профессор экономики в Беркли, в 2006 году опубликовал работу, демонстрирующую, что команды слишком часто решают сделать пант, вместо того чтобы «идти в проход» и получить первый даун или очко{13}. С момента публикации работы анализ Ромера был не раз воспроизведен и дополнен более точными данными, а выводы подтвердились. У New York Times даже есть онлайн-бот, который вычисляет оптимальную стратегию каждый раз, когда команда сталкивается с ситуацией четвертого дауна.

Но как это восприняли тренеры? А никак! Со времени публикации работы Ромера частота «проходов» после четвертого дауна не поменялась. Тренеры, которых нанимают владельцы команд, основываясь отчасти на собеседованиях, все еще принимают решения так же, как делали всегда.

Так что простите мне то, что я не теряю сон от страха из-за компьютеров, которые могут захватить мир. Не все сразу, давайте будем действовать постепенно и посмотрим, готовы ли мы доверить машинам принятие простых решений, с которыми те уже справляются лучше людей.

Я вижу развитие симбиоза

Скотт Дрейвз

Художник-программист; создатель Electric Sheep[115]

Я полагаю, что мыслящие машины — самая интересная тема для раздумий. Почему? Потому что у этого феномена могут быть значительные последствия. Даже космические.

«Мыслящие машины» уже давно с нами. Это можно понимать по-разному, в зависимости от того, с какого слова начать. Давайте начнем со слова «машины», под которым сегодня мы обычно подразумеваем компьютеры. Компьютеры поначалу были ну очень даже механистичны. Но они становятся все более утонченными. Уже в 1980-х годах они совершали кое-какие замечательные трюки с экспертными системами и базами данных. Сегодня мы уже прошли ту точку, в которой могли в деталях объяснить, как распознавание речи и естественного языка позволяет вашему телефону отвечать на вопросы ребенка. Фраза «магическим образом» сегодня едва ли гипербола. Но мышление ли это на самом деле? Еще нет, но это хорошее начало, и движение продолжается. Цель и правда выглядит очень далекой. Вместо того чтобы рассматривать наш подъем шаг за шагом, давайте взглянем на то, что ждет нас на вершине. Что-нибудь может остановить наше развитие?

Будущее микроэлектронных технологий неясно. Закон Мура пока что работал на нас, провел через несколько опасных моментов, но его дни подходят к концу. До сих пор новые технологии появлялись всегда вовремя, чтобы поддержать экспоненциальный рост вычислительной мощности по расписанию, но это не стоит воспринимать как данность. Быть может, следующий скачок окажется очень сложным и на его подготовку уйдет 50 лет. Или он вообще никогда не случится, хотя мы всегда можем повысить мощность за счет параллельного использования дополнительных чипов. Расписание — это интересный вопрос, но он меркнет в сравнении с размышлениями о пункте назначения.

Теперь рассмотрим слово «мыслить». Мыслящие машины есть давно — это мы сами. Биологические мозги думают уже миллионы лет. Мозг подчиняется законам физики, которые представляют собой механический набор уравнений. В принципе, хороший физический симулятор мог бы, хоть и очень медленно, смоделировать мозг и его окружение. Этот виртуальный мозг определенно был бы мыслящей машиной.

Остается только один вопрос: сколько нужно физики, чтобы такая симуляция заработала? Классической физики, электродинамики и химии хватит? Потребуется ли квантовая логика (или какая-то еще)? Консенсус однозначно на стороне представления о том, что классической физики окажется достаточно (идея про «Новый ум короля»[116] была отвергнута). Поэтому я думаю о своем мозге и теле как о гигантской машине, составленной из октильона молекул: много-много магнитных деталей детского конструктора, поведение которых хорошо известно и может быть смоделировано. Есть веские причины полагать, что статистическая аппроксимация физики даст такие же результаты. Но опять же это относится только к расписанию, а не к пункту назначения. Важный вопрос: как на основе такой сложной машины возникают мышление и сознание? Есть некая конструкция, некий мост, ведущий от цифрового и виртуального к аналоговому, органическому и реальному?

Тут мы сталкиваемся с объединением человеческого и компьютерного субстратов. Смартфоны быстро становятся неотделимой частью нас самих. Истеблишмент всегда с подозрением относится к новым способам коммуникации, но эти средства расширения нас самих распространяются очень стремительно. Много чернил ушло на описание близящихся конфликтов между человеком и компьютером, от экономического апокалипсиса с потерей рабочих мест из-за автоматизации до военной антиутопии, кишащей дронами. Вместо всего этого я вижу развитие симбиоза. И ведь на протяжении всей нашей истории, когда начинался новый этап эволюции, будь то появление эукариотических клеток, или многоклеточных организмов, или мозга, старые системы сохранялись, а новые начинали работать вместе с ними, а не вместо них.