Создатели искусственного гения. О бунтарях, которые наделили интеллектом Google, Facebook и весь мир

Осенью 2014 года Институту будущего жизни было меньше года от роду, когда под его эгидой это растущее сообщество собралось на закрытый саммит²⁵⁷ в Пуэрто-Рико. Его организатором выступил Макс Тегмарк, космолог и физик из Массачусетского технологического института, и за образец была взята основополагающая конференция²⁵⁸, состоявшаяся в 1975 году в конференц-центре Asilomar, на которой ведущие генетики мира встретились, чтобы обсудить, не приведет ли их работа – редактирование генов – к уничтожению человечества. На приглашениях, разосланных институтом, были две фотографии: на одной был изображен пляж в Сан-Хуане, на другой – какой-то бедолага, раскапывающий свой «Фольксваген-жук», утонувший в снежном сугробе (смысл был такой: «В начале января в Пуэрто-Рико вам будет гораздо веселее»). Было также обещание, что прессы на мероприятии не будет (смысл такой: «Вы можете свободно обсуждать свои страхи по поводу будущего искусственного интеллекта, не опасаясь, что назавтра вас будут дразнить “Терминатором”»). Эта встреча за закрытыми дверями получила название «Будущее искусственного интеллекта: возможности и вызовы». Среди прочих, присутствовали Демис Хассабис и Шейн Легг. Илон Маск тоже. В первое воскресенье 2015 года, через шесть недель после обеда с Марком Цукербергом, Маск вышел на сцену, чтобы обсудить угрозу «интеллектуального взрыва»²⁵⁹, то есть момента, когда искусственный интеллект внезапно достигнет уровня, который не предвидели даже эксперты. В этом, по его словам, заключен большой риск²⁶⁰: технология может внезапно перейти в опасную зону, и никто этого не заметит. Это был отзвук предостережений Бострома, который также выступал на сцене в Пуэрто-Рико, но Маск даже усилил его посыл.

Яан Таллинн, когда основал Институт будущего жизни, обещал платить по 100 000 долларов в год. В Пуэрто-Рико Маск решил выделить 10 миллионов²⁶¹ долларов на проекты по изучению вопросов безопасности ИИ. Он собирался публично объявить об этом новом подарке²⁶², но передумал, опасаясь, что это новость отвлечет внимание от предстоящего запуска ракеты SpaceX и ее последующей посадки на автономный плавучий космодром в Тихом океане. Кто-то напомнил ему, что на конференции нет репортеров²⁶³ и что присутствующие были связаны «правилами Чатем-Хауса», то есть согласились не разглашать то, о чем говорилось на совещании в Пуэрто-Рико, но Маск все же был настороже. Поэтому он сделал объявление, не назвав конкретную цифру²⁶⁴. Через несколько дней, после того как его ракета разбилась во время попытки посадки, он сообщил о гранте в размере 10 миллионов долларов в своем твите²⁶⁵. Для Маска угроза со стороны сверхразума была лишь одной из многих забот. Главной же его заботой, казалось, было привлечь к себе максимум внимания. «Он очень занятой человек, и у него нет времени копаться в нюансах вопросов, но он понимает основные контуры проблемы, – говорит Таллинн. – Он также искренне наслаждается вниманием прессы, чем объясняются его твиты, похожие на лозунги, и многое другое. Между Илоном и прессой существует симбиоз, который раздражает многих исследователей ИИ, но это цена, которую наше сообщество должно заплатить».

На конференции Тегмарк распространил открытое письмо²⁶⁶, в котором стремился оформить общие взгляды тех, кто собрался в Пуэрто-Рико. «Мы считаем, что исследования²⁶⁷, нацеленные на то, как сделать системы искусственного интеллекта надежными и полезными, являются одновременно важными и своевременными», – говорилось в письме, а дальше шли разного рода рекомендации – от подготовки прогнозов состояния рынка труда до разработки инструментов, которые могли бы обеспечить безопасность и надежность технологий ИИ. Тегмарк отправил копию письма всем присутствующим, чтобы каждый мог под ним подписаться. Тон письма был сдержанным, а содержание простым – все было в рамках здравого смысла, – но его подписание фактически означало, что вы привержены идее безопасности ИИ или, по меньшей мере, готовы выслушать глубокие опасения таких людей, как Легг, Таллинн и Маск. Одним из тех, кто присутствовал на конференции, но не подписал письмо, был Кент Уокер²⁶⁸, главный юрисконсульт Google, который в Пуэрто-Рико был скорее наблюдателем, чем участником, поскольку его компания стремилась расширить свои усилия по разработки ИИ как в Калифорнии (силами Google Brain), так и в Лондоне (силами DeepMind). Но большинство других участников подписались, в том числе один из ведущих сотрудников Google Brain²⁶⁹ Илья Суцкевер.