Сдвиг. Как выжить в стремительном будущем

Рэй Курцвейл, футуролог и известный лектор, в своей книге «Сингулярность уже близка» (2005) изложил в популярном виде идею экспоненциальных изменений. Согласно предсказанию Курцвейла, к 2029 году компьютеры научатся читать не хуже человека, а сингулярность — точка, в которой машины превзойдут разумностью человека, — наступит в 2045 году. В этой точке, как гласит теория сингулярности, мы станем свидетелями «интеллектуального взрыва», когда машины ускоренно начнут создавать все более разумные версии самих себя, — сценарий, в корне отличающийся от варианта развития событий, представленного в кинофильме 2013 года «Она»[380].

Большинство экспертов в области машинного обучения считают, что искусственный интеллект в какой-то момент действительно дорастет до подобного уровня, хотя они, так сказать, скорее явятся за Нобелевскими премиями в нижнем белье, чем осмелятся, подобно Курцвейлу, назвать точную дату этого события. Говоря технически, сингулярность — это точка, в которой функция принимает неопределенное значение, как это, например, происходит с пространством и временем в центре черной дыры. Что произойдет после технологической сингулярности? По мнению Курцвейла, мы вступим в период «блаженного трансгуманизма», когда грань между человеком и машиной станет неразличима, а сверхразумы, наводняющие планету, решат все проблемы человечества. Другие эксперты — и среди них Илон Маск, изобретатель, один из основателей PayPal и Tesla Motors, — убеждены, что машины скорее сочтут человека разновидностью раковых метастазов, заражающих планету, и вымарают вид Homo sapiens из летописей жизни на Земле.

Мы же придерживаемся более широких взглядов. Может, искусственный интеллект хорош, может, плох. А может, эта проблема вообще не имеет значения перед лицом других опасностей и других позитивных исходов, свидетелями которых может оказаться век грядущий. Климатические процессы в Арктике, названные «позитивной обратной связью», в настоящее время ускоряют таяние арктических льдов — и, если процесс пойдет быстрее, чем ожидается, нам грозит глобальный катаклизм, который отбросит цивилизацию назад, в Темные века. Или группа хакеров нигилистического толка единым «ударом хлыста» изничтожит мировые финансовые рынки, спровоцировав вначале панику, а за ней — эскалационное противостояние. Не стоит сбрасывать со счетов и возможность пандемии, сравнимой с бубонной чумой XIV века.

События так называемого уровня вымирания не столь невероятны, как может показаться, — ведь мы и прежде стояли на грани их возникновения. Извержение вулкана, случившееся 70 тысяч лет назад, чуть было не сократило население планеты до размеров маленького городка. И все же мы придерживаемся менее пессимистичных взглядов: мы не более способны понять, какое применение в итоге найдут все наши новые технологии, чем зрители «живых картинок» 1896 года были способны предсказать появление «Гражданина Кейна»[381]. Но цель данной книги совсем не в том, чтобы напугать вас мрачными видениями будущего. С тем же успехом можно развлекаться прогнозами жизни на планете Кеплер-62е[382].

Поскольку термин «искусственный интеллект» используется как ярлык, который навешивается на все на свете, от Siri[383] до автомобилей Tesla, мы определяем этот вид решающего искусственного интеллекта как «узкий» или «специализированный», чтобы провести различие с общим искусственным интеллектом (ОИИ). Эксперт в области искусственного интеллекта Бен Герцель предполагает, что ОИИ станет машиной такого уровня, которая сможет подать заявление в колледж, будет туда принята и с успехом получит ученую степень.

Между специализированным и общим искусственным интеллектом существует множество различий, однако ни тот ни другой не программируются — они либо поддаются «тренировке», либо «учатся». Специализированные интеллекты старательно тренируются инженерами, которые настраивают данные и алгоритмы и тестируют их, пока искусственные интеллекты не начинают делать особые вещи, которые от них требуются. Такие интеллекты не обладают творческим началом — вместо этого их жестко контролируют, а области их применения весьма узки.

Уже удалось добиться значительного прогресса в машинном обучении и других областях, которые по-прежнему стоят между нами и ОИИ, и AlphaGo воплотила в себе некоторые из них. Она, похоже, способна на креативность; она умеет из статистической системы выводить некую символическую логику. Трудно переоценить значимость достигнутого — ведь многие не верили, что можно от глубинного обучения перейти к принятию решений путем манипулирования символами.