Искусственный интеллект и будущее человечества

Однако Стюарт хотел сказать, что появление искусственного интеллекта человеческого уровня в последние годы виделось неизбежным как никогда. Достижения в области машинного обучения, подобные тем, что возглавляла компания DeepMind, стартап, основанный в Лондоне и приобретенный Google в 2014 году, шли верным курсом к переломному моменту. Незадолго до того, как я встретил Стюарта, компания DeepMind выпустила видео, демонстрирующее результат эксперимента, в котором искусственной нейронной сети была поставлена задача максимизировать результат в классической аркадной игре Atari Breakout: в ней игрок, управляя бруском-ракеткой в нижней части экрана, должен прорваться сквозь стену из кирпичей, попадая по ним мячом и разбивая их. Видео продемонстрировало впечатляющую скорость и изобретательность, с которыми сеть научилась играть в Atari Breakout, разрабатывая новую тактику, чтобы набирать все больше очков. Она быстро превзошла все предыдущие рекорды, установленные людьми.

Компьютер, достигший славы в примитивной аркадной игре, прошел долгий путь становления от HAL 9000. Что до сих пор не удалось освоить нейронным сетям – так это процесс иерархического принятия решений, по которому для достижения поставленной задачи требуется заглядывать дальше, чем на несколько шагов вперед.

– Подумайте о решениях и действиях, которые привели вас сегодня ко мне в кабинет, – сказал Стюарт так тихо, что мне пришлось подкатить свое кресло к столу и наклониться в его сторону. – На уровне элементарных движений, под которыми я подразумеваю действия ваших мышц, пальцев и языка, ваш путь из Дублина в Беркли стал результатом выполнения порядка пяти миллиардов действий. Но действительно важно то, что именно люди способны делать в реальном мире, в отличие от мира компьютерной игры или шахматной программы: они могут планировать действия на более высоком уровне. Поэтому вместо того, чтобы размышлять, следует вам перемещать этот палец или другой в определенном направлении и на это расстояние, вы решаете, полететь ли в Сан-Франциско на United или British Airways и что вам стоит сделать потом, заказать такси Uber или сесть на поезд через залив в Беркли. Вы способны думать очень крупными блоками, и таким образом вы можете создавать структуры, которые охватывают миллиарды физических действий, большинство из которых полностью бессознательны. Иерархическая структура принятия решений – ключевое звено цепи человеческого интеллекта, и нам еще предстоит выяснить, как реализовать его на компьютерах. Это точно возможно, и как только мы достигнем этого, то сделаем еще один значительный шаг к достижению искусственным интеллектом человеческого уровня.

После возвращения из Беркли мне стало казаться, что искусственный интеллект развивается семимильными шагами. Я открывал Twitter или Facebook, где мои ленты новостей, управляемые силой скрытых алгоритмов, содержали тревожную информацию о том, что очередная область человеческого труда без боя сдана машине. Я читал, что в лондонском Вест-Энде собирались поставить мюзикл, полностью написанный искусственным интеллектом, которого назвали Android Lloyd Webber[8]. Я читал, что искусственный интеллект AlphaGo, тоже работа компании DeepMind от Google, выиграл у гроссмейстера-человека в игре Го – древней китайской стратегической настольной игре, которая с точки зрения вероятностей была гораздо сложнее шахмат. Я читал, что книга, написанная компьютерной программой, прошла первый этап японской литературной премии, открытой для произведений, написанных людьми и искусственным интеллектом, и вспомнил о футуристе, с которым беседовал в пабе в Блумсбери после разговора с Андерсом, и о его предположении, что все чаще литературные произведения будут писаться роботами.

Мое отношение к этому не было однозначным. С одной стороны, меня больше беспокоила перспектива чтения такой книги или просмотра такого произведения, чем роль компьютерных романов и мюзиклов для будущего человечества. Также я не испытывал особой гордости за первенство моего вида в настольных стратегических играх, и поэтому меня не волновала победа робота AlphaGo – это пример быстрого и подробного просчета вариантов и сложного алгоритма поиска, в которых компьютеры и так всегда были хороши. С другой стороны, разумно предположить, что роботы будут совершенствоваться: их мюзиклы в Вест-Энде и научно-популярные книги со временем перестанут быть такими отстойными. Машины смогут выполнять все более сложные задачи все более и более эффективно.

Время от времени мне казалось, что вся эта идея экзистенциального риска была нарциссической фантазией всевластия, грандиозным заблуждением программистов, технических предпринимателей и других замкнутых эгоцентричных гиков, что судьба человечества в их руках: абсурдная двоичная эсхатология, в соответствии с которой мы будем либо уничтожены злым кодом, либо сохранены добрым. В подобные моменты все это выглядело ребячеством, и стоило задуматься о конкретных случаях идиотизма особого рода умов.