Новые темные века

Совсем иначе дело обстояло в матче, в котором один из лучших в мире игроков в го Ли Седоль уступил программе «AlphaGo», разработанной на базе Google Brain. Во второй из пяти игр ход «AlphaGo» ошеломил как Седоля, так и зрителей – программа поместила один из своих камней на дальнюю сторону доски и, казалось, сдалась. Комментаторы игры говорили, что это «очень странный ход» или «ошибка». Другой профессиональный игрок в го, Фань Хуэй, в матче с которым за полгода до этого программа впервые нанесла поражение человеку, также выразил изумление: «Это не человеческий ход. Я никогда не видел, чтобы человек так ходил. Как красиво»(26). Игре го уже две с половиной тысячи лет, но еще никто и никогда так не ходил. «AlphaGo» выиграла матч и одержала победу в серии.

Создавшие «AlphaGo» инженеры обучили нейронную сеть на миллионах ходов опытных игроков, а потом заставили программу сыграть бессчетное множество матчей, чтобы выработать новые стратегии, превосходящие накопленный опыт. Нам не понятно, какими были эти новые стратегии; мы видим ходы программы, но не знаем ее мотивацию. Сложность ходов в тех матчах, которые «AlphaGo» провела сама с собой, вероятно, запредельна, но мы о них никогда не узнаем. Мы не можем оценить утонченность и совершенство машинной стратегии, и лишь видим, что она научилась побеждать.

Ныне покойный британский писатель Йен М. Бэнкс когда-то сказал, что машина действует в «пространстве бесконечного веселья»(27). В цикле научно-фантастических романов Бэнкса цивилизацией Культура управляют доброжелательные искусственные сверхинтеллекты, называемые просто Разумами. Изначально Разумы были созданы людьми (или, по крайней мере, некими углеродными формами жизни), но давно превзошли своих создателей, изменили и перестроили самих себя и стали одновременно непостижимыми и всемогущими. Управляя кораблями и планетами, руководя военными действиями и заботясь о миллиардах людей, Разумы не забывают предаваться своим собственным удовольствиям, например, заниматься непостижимыми для простых смертных умозрительными вычислениями. В своем воображении они способны моделировать целые вселенные и порой навсегда уходят в «пространство бесконечного веселья» – область метаматематических возможностей, доступную только сверхчеловеческому искусственному интеллекту. А остальным из нас останется «конечное веселье», мы будем обречены бесплодно анализировать решения машин, заведомо находящиеся за гранью нашего понимания.

Однако некоторые операции машинного интеллекта выходят за пределы «пространства бесконечного веселья» и порождают «незнание» в реальном мире: новые образы, новые лица, новые, неизвестные и ложные события. Тот же подход, при помощи которого язык можно представить как бесконечную мешанину чужеродных значений, применим ко всему, что описывается математически, то есть ко всей сети взвешенных связей в многомерном пространстве. Произнесенные или написанные слова, даже если их значения непонятны не-человеку, все еще связаны между собой, и путем вычисления можно воссоздать их изначальный смысл. В семантической сети силовые линии, или векторы, определяющие слово «королева», совпадают с линиями, читаемыми в порядке «король – мужчина + женщина»(28). Следуя за векторами, Сеть может определить гендерную принадлежность тех, кого называют «королем» и «королевой». То же самое возможно, если Сеть работает с лицами.

Если Сеть получит набор портретов, то сможет не только производить вычисления, следуя за «силовыми линиями», но и генерировать новые изображения. Изучив фотографии улыбающихся женщин и фотографии, на которых женщины и мужчины серьезны, она самостоятельно рассчитает, то есть создаст совершенно новые изображения улыбающихся мужчин, как было показано в статье, опубликованной исследователями Facebook в 2015 году(29).

В той же статье исследователи создают целый ряд новых изображений. Используя набор данных из более чем трех миллионов фотографий спален, нейросеть генерирует новые комнаты. На пересечении «спальных» векторов – стен, окон, одеял и подушек – возникают сочетания цветов и мебели, которых никогда не существовало в реальном мире. Машинам снятся сны о комнатах для сна, где не снятся никакие сны. Однако больше всего поражают и запоминаются именно лица – антропоморфные, как и мы. Кто эти люди и чему они улыбаются?