Создатели искусственного гения. О бунтарях, которые наделили интеллектом Google, Facebook и весь мир

А еще через несколько недель Маск разместил то самое обращение²⁴⁹ на веб-сайте Edge.org, контролируемом организацией, которая занимается изучением новых научных идей и организует ежегодные мероприятия под общим названием «Ужин миллиардеров», в котором в разные годы участвовали такие светила, как Маск, Ларри Пейдж, Сергей Брин и Марк Цукерберг, и которая в скором времени оказалась в центре скандала, когда миллиардер Джеффри Эпштейн²⁵⁰, один из ее основных финансовых спонсоров, был арестован за участие в секс-торговле и вскоре покончил с собой в тюремной камере. В своем выступлении на веб-сайте Edge Foundation Маск был более откровенным, чем в прошлом. Он указал на деятельность лаборатории DeepMind²⁵¹ как на свидетельство того, что мир на всех парах мчится к созданию сверхразума. Он предупредил, что опасность нам грозит самое большее через пять-десять лет²⁵². И как один из инвесторов, он наблюдал за деятельностью DeepMind изнутри – до того, как эта лондонская лаборатория была внезапно приобретена Google. Однако было неясно, видел ли он что-нибудь такое, чего не видели другие.

Маск опубликовал обращение в пятницу. А уже в следующую среду он обедал с Марком Цукербергом. Это была их первая личная встреча. Цукерберг пригласил Маска в свой утопающий в листве деревьев белый дом в Пало-Альто, надеясь убедить этого предпринимателя с южноафриканскими корнями, что все эти разговоры об опасностях сверхразума не имеют большого смысла. Когда основатели DeepMind настаивали на том, что не продадут свою лабораторию без гарантии того, что независимый совет по этике будет контролировать разработки AGI, он отверг их требования, и теперь, когда Маск продолжал нагнетать страсти по телевидению и в социальных сетях, он не хотел, чтобы у законодателей и политиков сложилось впечатление, что такие компании, как Facebook, способны нанести миру вред своим разработками в сфере искусственного интеллекта. Себе в помощь он также пригласил Яна Лекуна, Майка Шрепфера и Роба Фергуса, профессора Нью-Йоркского университета, который работал вместе с Лекуном в новой лаборатории Facebook. «Фейсбукеры» на протяжении всего обеда пытались объяснить Маску, что в своих взглядах на ИИ он введен в заблуждение кликушами, которые остаются в явном меньшинстве. Философские размышления Ника Бострома, по словам Цукерберга и его коллег, не имели никакого отношения к тому, что Маск мог видеть в DeepMind или в любой другой лаборатории искусственного интеллекта. Нейронные сети все еще слишком далеки от сверхразума. DeepMind создавала системы, которые отлично играли в Pong или Space Invaders, но во всем остальном были совершенно бесполезны. И игры, в которые они играют, вы можете выключить в любой момент.

Но Маск остался при своем мнении. Проблема в том, сказал он, что ИИ слишком быстро совершенствуется. И есть риск, что эти технологии могут перейти рубеж, отделяющий безобидное от опасного, быстрее, чем мы поймем, что происходит. Он повторял все те же аргументы, которые уже приводил в своих твитах, телевизионных интервью и публичных выступлениях, и, когда он это говорил, никто не мог точно сказать, он действительно во все это верит или просто позерствует, преследуя какую-то свою цель. «Я искренне верю, что такая опасность существует», – говорил он.

* * *

Через несколько дней после обеда в Пало-Альто Илон Маск позвонил Яну Лекуну. Он сообщил, что его компания Tesla планирует заняться созданием беспилотного автомобиля, и попросил посоветовать ему кого-нибудь, кто мог бы возглавить этот проект. На той же неделе он связался с еще несколькими исследователями из Facebook, обращаясь к каждому с той же самой просьбой, и эта его уловка в конечном итоге вызвала гнев Марка Цукерберга. Лекун посоветовал Маску связаться с Урсом Мюллером, его бывшим коллегой по Bell Labs, который создал свой стартап для разработки автономных транспортных средств с помощью технологии глубокого обучения. Однако Маск не успел нанять этого швейцарского исследователя – его опередили. Дело в том, что через несколько дней после Маска к Лекуну с таким же запросом обратился Дженсен Хуанг, основатель и генеральный директор Nvidia. Лекун дал ему такой же совет, и Nvidia медлить не стала. Компания хотела создать собственную лабораторию, которая способствовала бы развитию технологии автономного транспорта, что в свою очередь позволило бы компании продавать еще больше графических процессоров.

Маск бил тревогу, что гонка за искусственным интеллектом может уничтожить нас всех, и при этом сам присоединялся к ней. Сначала его заинтересовала идея беспилотного автомобиля, но в скором времени он последовал примеру DeepMind и создал свою собственную лабораторию для разработки AGI. Маск видел во всем этом звенья одного технологического тренда. Сначала распознавание изображений. Потом машинный перевод. Потом автомобили без водителя. Потом AGI.