Кому принадлежит будущее?

Но способность беспрепятственно участвовать в массовом обмане с применением социальной инженерии, которую уже продемонстрировал Facebook, доказывает, что интернет в том виде, в котором он существует на сегодняшний день, – не формирующаяся идеальная система, как нам часто его представляют, а система в основном управляемая, и инициатива в ней исходит сверху. У социотехнического обмана не может быть цели лучше, чем повысить количество пожертвований на донорство органов, и все же крайнее благо предыдущего опыта не говорит о целесообразности его наследования.

Мы притворяемся, что на облаках компьютерных систем зарождается новое сверхчеловеческое существо – искусственный интеллект, но жмут на их рычаги именно люди, те самые, которые управляют работой серверов-сирен.

Глобальное торжество тьюринговского настроения

Часто в новостях рассказывают о последних успехах в области разработки искусственного интеллекта: машина, которая умеет улыбаться, программа, которая умеет предсказывать человеческие музыкальные вкусы или пристрастия в выборе партнеров, робот, обучающий детей иностранным языкам. Этот нескончаемый поток историй предполагает, что машины становятся умной и автономной новой формой жизни и нам следует считать их друзьями, а не инструментами. Но подобные выводы не меняют нашего мысленного восприятия компьютеров: они лишь изменяют форму наших базовых представлений о жизни, причем ошибочными и зачастую травмирующими способами.

Все эти детали исследований в области искусственного интеллекта можно зачастую с куда большей пользой интерпретировать, вообще не прибегая к концепции искусственного интеллекта. Например, в 2011 году ученые из IBM презентовали машину, «отвечающую на вопросы», предназначенную для участия в телевикторине «Рискуй!». Предположим, IBM обошлись бы без театральной показухи, объявив, что усовершенствовали Google – создали новую систему поиска по фразам. Такое представление абсолютно идентичной технологии принесло бы команде столько же (вполне заслуженного) признания, сколько принесло объявление об искусственном интеллекте, но также приучило бы общественность к тому, что любую технологию можно использовать с максимальной эффективностью.

Обычно технологии искусственного интеллекта работают за счет одного из вариантов процесса, осуществляющего перевод с языка на язык, о котором уже шла речь в одной из предыдущих глав. При всей важности инноваций в алгоритмах необходимо также подпитывать эти алгоритмы большими массивами данных, собираемых с обычных людей. Результат, предположительно достигнутый искусственным интеллектом, можно расценивать как гибрид предыдущих попыток живых людей. Люди прежде отвечали на множество вопросов; множество их ответов собрали алгоритмы, и программа выдала их обратно сплошным потоком. Это никоим образом не умаляет их достоинств и не отрицает их пользы, но не делает их работу сверхъестественной. Живые люди, которым принадлежат ответы на вопросы, заслуживают платы за каждый новый ответ, данный машиной.

Рассмотрим также сканирование книги в цифровой формат. Историк Джордж Дайсон писал, что один из инженеров Google как-то сказал ему: «Мы сканируем все эти книги не для того, чтобы их читали люди. Мы сканируем их для того, чтобы их прочел искусственный интеллект». Притом что нам еще предстоит узнать, чем обернется инициатива Google по сканированию книг, такой машиноцентричный взгляд на проект может привести к появлению программ, для которых книги подобны зерну на мельнице, больше похожему на лишенные контекста обрывки информации в одной большой базе данных, а не на отдельные выражения мыслей конкретных авторов. При таком подходе содержание книг будет распылено на атомы битов информации, а потом собрано в кучу, а сами авторы, ощущение их реального присутствия, их уникальные взгляды на мир, будут утеряны. Не стоит и говорить о том, что при использовании такого подхода следы будут тщательно подчищаться, и будет очень сложно понять, кому же из авторов полагается наноплатеж за тексты, попавшие в базу данных.

Все это сводится к тому, что сама концепция искусственного интеллекта дает нам возможность избежать финансовых обязательств, притворившись, что машины могут брать на себя все больше и больше человеческой ответственности. Это справедливо даже по отношению к тому, что мы не воспринимаем как искусственный интеллект, например, рекомендации, которые дают Netflix и Pandora. Полагаю, слушать музыку и смотреть фильмы, которые предлагают нам алгоритмы, относительно безвредно. Но надеюсь, что когда-нибудь пользователи этих сервисов начнут сопротивляться рекомендациям; воздействие искусства на нас не стоит заключать в рамки алгоритма, который якобы точно предсказывает, что придется нам по вкусу. Эти алгоритмы не передают эмоций или смысла – только данные статистики и совпадения.