На заре новой эры. Автобиография отца виртуальной реальности

Даже если появится всеобщее соглашение о том, что искусственный интеллект «выполняет всю работу» в будущем, алгоритмам искусственного интеллекта все так же придется собирать данные людей, чтобы этим людям служить, если человечество окончательно не станет скучным и предсказуемым или не примет решение о массовом самоубийстве. Так что если вы один из тех умников, которые ждут, что компьютер напишет для них идеальную книжку и ему при этом не придется смешивать слова, написанные людьми; даже в этом случае вам могут заплатить за полученные от вас данные. Которые оптимизируют процесс создания для вас текста алгоритмом, и в этом взаимодействии будет распределение власти и благосостояния в обществе, по крайней мере оно станет небольшим фонтанчиком достоинства.

Знаю, знаю, контраргумент, самый популярный контраргумент будет о том, что компьютеры уничтожат людей. Когда я слышу это возражение, я мысленно возвращаюсь обратно в «Хунань», где я просил своих друзей хорошо подумать о морской свинке, управляющей огнеметом. Можно считать, что интернет уже ожил. Вы можете считать, что избрание «не того» президента США – это метод, используя который интернет начал избавляться от людей. Не существует сверхъестественной онтологической полицейской власти, которая сойдет с небес, чтобы вас отругать. Но считать людей способными нести ответственность – одна из доступных интерпретаций, дающих нам возможность брать на себя ответственность.

Не совершайте ошибку, посчитав эту книгу консервативной или традиционалистской реакцией против модного футуризма. На конкурсах футуристского толка мне обычно удается переплюнуть в своем футуризме всех остальных.

Мой футуризм реален, хотя многое в нем фальшиво. Футуризм, предполагающий полный отрыв от прошлого – наступление сингулярности или полный контроль со стороны искусственного интеллекта, – подделка. Порвать с прошлым означает лишь начать с нуля, то есть стать примитивными онлайн. Возможно, мы сумеем стать достаточно примитивными, чтобы в сравнении с нами алгоритм казался суперумным.

Предполагаемый мной в приложении 1 скачок Маклюэна – это лишь один из примеров взгляда на будущее, который, по меньшей мере, настолько же красочен, как фантазии о превосходстве искусственного интеллекта, но этот взгляд честно устремлен в будущее, а не возвращается в прошлое. Футуризм, притворяющийся, что мы знаем науку, которую мы на самом деле не знаем, также фальшив. Когда кто-то притворяется, что нам уже известна вся важная информация о работе мозга, это не настоящий футурист. На самом же деле этот человек расписывается в том, что он намертво застрял в идеях прошлого.

Меня не покидает уныние, когда кто-то предполагает, что искусственный интеллект уже идет неизбежным курсом к тому, что ему будут нужны небольшие объемы данных – вместо больших массивов данных, украденных у пользователей за их спиной, – в обозримом будущем.

Если вы когда-нибудь придете на лекцию, где я обращаюсь к студентам, вы можете услышать, как я напоминаю им пример, который уже приводил на страницах этой книги: в конце девятнадцатого века слышались уверенные заявления о том, что в физике уже совершены все открытия. А потом наступил двадцатый век с общей теорией относительности и квантовой теорией поля, причем эти теории несовместимы друг с другом, так что мы знаем, что физики открыли отнюдь не все. Я говорю студентам, что наука постоянно пинает нас под зад. Я говорю им, что невозможно быть ученым, если не можешь признать неизвестное.

Наша судьба зависит от человеческих качеств, которым пока нет научного определения, таких как здравый смысл, доброта, рациональное мышление и творческий подход. Пока фантазии об искусственном интеллекте остаются тем, во что мы способны автоматически привнести мудрость, можем ли мы по меньшей мере признать, что эти качества реально пока лишь присвоить создаваемым нами системам? Что пока наши системы бессильны их проявлять?

Вопросы нашего века: можем ли мы видеть сквозь соблазнительные информационные системы так, чтобы честно взглянуть на самих себя и окружающий нас мир? Насколько плохо должны обстоять дела, чтобы технокультура решила, что стоит бросить вызов даже нашим самым взлелеянным мифам, чтобы избавиться от беспорядка в собственной голове?

* * *