Начало бесконечности

Большинство защитников сингулярности считают, что вскоре после прорыва искусственного интеллекта будет построен сверхчеловеческий мозг и что тогда, как говорит Виндж, «эре человека придёт конец». Но мои доводы, касающиеся универсальности человеческого мышления, исключают такую возможность. Поскольку люди уже обладают способностью объяснить и сконструировать всё что угодно, они уже могут перешагнуть через своё парохиальное происхождение, поэтому такого понятия, как сверхчеловеческое мышление, быть не может. Может только быть дальнейшая автоматизация, которая позволит быстрее осуществлять существующий тип человеческого мышления, с большим объёмом оперативной памяти, с передачей фаз «работы в поте лица» автоматам (не искусственному интеллекту). Многое из этого уже осуществилось с появлением компьютеров и другой техники, а также с общим ростом благосостояния, и в результате людей, которые способны тратить время на то, чтобы думать, стало больше. И можно ожидать, что так будет продолжаться. Например, появятся ещё более эффективные интерфейсы взаимодействия человека с компьютером, что, вне сомнений, увенчается приставками для мозга. Но такие задачи, как поиск в Интернете, никогда не будут выполняться супербыстрым искусственным интеллектом, сканирующим миллиарды документов творчески, ища смысл, потому что этот интеллект не захочет выполнять такую работу — так же, как и человек. А искусственные учёные, математики и философы не будут обладать понятиями или аргументами, которые не дано понять людям. Универсальность предполагает, что во всех значимых смыслах между людьми и искусственным интеллектом никогда не будет другого отношения, кроме как отношения равенства.

Аналогично, часто предполагается, что сингулярность — это момент беспрецедентного потрясения и опасности, так как инновации начинают появляться слишком быстро и люди не могут угнаться за ними. Но это — парохиальное заблуждение. На протяжении первых нескольких столетий эпохи Просвещения постоянно присутствовало чувство, что быстрое и ускоряющееся новаторство выходит из-под контроля. Но увеличивались и наши способности справляться с изменениями в технологиях, образе жизни, этических нормах и так далее и наслаждаться ими, при этом некоторые из антирациональных мемов, которые раньше саботировали нововведения, ослабевали и вымирали. В будущем, когда скорость внедрения инноваций также будет расти просто за счёт растущей тактовой частоты и выработки приставок мозга и искусственного интеллекта, наша способность справляться с этим будет расти с такой же скоростью или ещё быстрее: если бы все мы вдруг смогли думать в миллион раз быстрее, никто бы не чувствовал, что бежит впереди других. Поэтому я считаю, что понимать сингулярность как своего рода разрыв — ошибка. Знание продолжит расти экспоненциально или даже быстрее, что само по себе достаточно поразительно.

Экономист Робин Хэнсон предположил, что в истории нашего вида было несколько сингулярностей, таких как сельскохозяйственная и промышленная революции. Возможно, по такому определению «сингулярностью» было даже ранее Просвещение. Кто мог предсказать, что пережившие гражданскую войну в Англии — кровавую резню религиозных фанатиков и абсолютного монарха — и видевшие победу религиозных фанатиков в 1651 году также увидят и мирное рождение общества, главными характеристиками которого были свобода и разум? Королевское (научное) общество, например, было основано в Великобритании в 1660 году — и это было достижение, которое вряд ли можно было себе представить поколением раньше. Рой Портер отмечает 1688 год как начало английского Просвещения. Это дата «Славной революции», начала преимущественно конституционного правления, а также многих других рациональных реформ, которые были частью этого более глубокого и поразительно быстрого сдвига в господствующем мировоззрении.

Далее, момент времени, за который научное предсказание заглянуть не может, для разных явлений разный. Для каждого явления это момент, в который создание нового знания может начать иметь существенное значение в плане того, что мы пытаемся предсказать. Поскольку наши оценки этого момента тоже лежат в пределах горизонта того же типа, нам действительно следует понимать все свои предсказания с неявно включённой в них оговоркой «если не будет создано новое знание».

Некоторые объяснения действительно простираются в удалённое будущее, далеко за горизонты, которые делают непредсказуемыми большую часть других понятий и явлений. Одно из них — сам этот факт. Другое — бесконечный потенциал объяснительного знания — предмет этой книги.