Полдень, XXI век, 2012 № 04

Сейчас уже никто не желает учить сведения, которые в любой момент, при ничтожных усилиях можно получить в Интернете. То есть от необходимости знать, где в какой книге находятся ответы, люди переходят просто к умению грамотно формулировать вопрос. За этим почти неизбежно последует новый шаг – формулировать свои пожелания. Но если личный микрокосм человека будет состоять из элементов, поставляемых поисковой системой, и если программа будет указывать лучшие варианты решений, – то даже «слабый» ИИ станет лучшим кормчим в этой искусственной вселенной. Несколько сгущая краски, можно сказать, что характер ребенка сформируется в зависимости от свойств поисковой системы и программы-опекуна – ведь даже родители станут полагаться на почти безошибочные советы компьютеров.

В не самой приятной перспективе мы получаем симбиоз – человек не сможет создавать никаких других смыслов жизни, кроме тех, что уже заданы ему необходимостью потребления. Его личный микрокосм состоит только из элементов, смоделированных компьютером, а решения в этом микрокосме принимаются только по калькам компьютерных решений. Человек становится неким полумагическим элементом, который живет вроде бы для себя, но уже и для техносферы. А техносфера, еще будучи не в состоянии осмыслить сама себя, использует человека как замыкающее звено ее причинно-следственных связей.

Каков может быть ответ человека на все эти потенциальные угрозы?

Микрочипы в крови или укрепленные микроволокном кости скелета, или усовершенствованные хрусталики глаз – дадут лишь очередного «супермена». Но сознание человека мало изменится. Даже нейрошунт, устройство, которое позволит нервной системе напрямую воспринимать информацию от компьютера, здесь не поможет.

Основное требование для сохранения за человеком его статуса – это неограниченные возможности роста его умственных способностей. Лишь обретя возможности по самосовершенствованию, присущие сейчас компьютерам, человек, как субъект, останется во главе техносферы. Так сказать, на вершине пищевой (интеллектуальной) пирамиды.

Подобную трансформацию называют перекачкой (или преображением) – сознание человека оцифровывается и переводится в машину. Идея далеко не нова, неоднократно «обкатывалась» в фантастической литературе. Она, понятно, является весьма спорной по этическим и религиозным соображениям.

Но оцифровка человеческого сознания и создание ИИ – это две стороны одной медали. Если ИИ будет создан на фоне значительного отставания в технологиях работы с мозгом, то люди теряют свое место на вершине техносферы. Самое грустное, что для этого надо просто оставить все как есть: конкурентная борьба и войны обеспечат появление ИИ – ведь в бесплатных и сообразительных работниках нуждаются практически все. Если же будет создана технология преображения, то человечество раскалывается на тех, кто может себе позволить перенос, и всех остальных, – этот вариант блестяще показал Р. Желязны в романе «Князь света».

Основное противоречие, которое вскрывает данная работа, – это противоречие между созданием искусственного интеллекта и оцифровкой сознания.

И у преображенных будут свои проблемы. Основная из них – самотождественность личности. Человек переживает множество психологических кризисов в детстве, но там есть привязка к обществу, к подобным ему, в конце концов – к собственному телу. С какими кризисами столкнется сознание после преображения – сказать очень тяжело. Программное состояние психики позволит человеку свободно перестраивать собственную личность, и эта личность будет непрерывно развиваться. Цифровое самосовершенствование – принципиально новая степень свободы.

Самые известные (или самые одиозные) трансгуманисты называют 2030-е годы[2] наиболее вероятным временам технологической сингулярности. Эти прогнозы могут не сбыться. Как не сбылись в полном объем прогнозы о быстром создании программ-переводчиков, о конструировании ИИ еще в 70-х гг. XX века и множество других оптимистичных предположений. Но даже если к созданию полноценного самосовершенствующегося ИИ человечество подойдет в 2050-60-х – это будет означать коренное изменение человеческой истории.

Однако в пояснении того, что же будет дальше, за гранью, – футурологи вообще, и трансгуманисты в частности, чрезвычайно немногословны. Что же можно разглядеть в грядущих витках научно-технического прогресса?