Принцип апокалипсиса: сценарии конца света

Определим сверхразумную машину как машину которая способна значительно превзойти все интеллектуальные действия любого человека, как бы тот ни был умен. Поскольку способность разработать такую машину также является одним из этих интеллектуальных действий, сверхразумная машина может построить еще более совершенные машины. За этим, несомненно, последует «интеллектуальный взрыв», и разум человека намного отстанет от искусственного. Таким образом, первая сверхразумная машина станет последним изобретением, которое выпадет на долю человека, при условии, что машина будет достаточно покорна и поведает нам, как держать ее под контролем…

И. Дж. Гуд. Сверхчеловеческий интеллект

«Роботизированный» профессор Стивен Хокинг

Вместе с Хокингом «интеллектуальный набат» поддержали профессор физики из Массачусетского технологического университета Макс Тегмарк, лауреат Нобелевской премии Фрэнк Вильчек и профессор компьютерных наук Стюарт Рассел. Совместно они опубликовали в еженедельнике «The Huffington Post» аналитический обзор под настораживающим названием «Избавляясь от беспечного отношения к сверхразумным машинам». В этой статье ученые, на основе анализа сюжета голливудского блокбастера, предлагают свои сценарии будущего искусственного интеллекта, и далеко не все из них вызывают оптимизм. Главную свою мысль «творческий коллектив Хокинга» выражает следующим образом: «Есть искушение отнести сверхумные компьютеры к области научной фантастики, но это было бы ошибкой, и, возможно, – самой ужасной ошибкой в истории».

Поскольку, несмотря на громкие имена, выступление «команды Хокинга» прошло практически незамеченным, ученые сделали еще одну попытку обратить на себя внимание и поместили в газете «The Independent» эссе под пространным заголовком: «Фильм „Превосходство": плоды искусственного интеллекта – насколько серьезно мы их воспринимаем?».

Увы, и этот «интеллектуально-эсхотологический демарш» не привлек широкого внимания читателей, а между тем выводы теоретиков предвещают одну из самых громких грядущих сенсаций: наша цивилизация увлекается в горнило «технологической сингулярности»!

Ровно двадцать лет назад мир содрогнулся от новой опасности, которую вполне можно было бы назвать «врожденной генетической болезнью» цивилизации. Ее предрек человечеству американский математик и писатель-фантаст Вернор Виндж в культовой работе «Грядущая технологическая сингулярность». Суть модели будущего по Винджу очень проста: «В течение ближайших тридцати лету нас появится техническая возможность создать сверхчеловеческий интеллект. Вскоре после этого человеческая эпоха будет завершена».

Виндж лишь схематически набросал черты будущей гибели земной цивилизации, предпочитая разрабатывать детали в своих научно-фантастических романах. Однако его теория быстро обросла подробностями в исследованиях учеников и подражателей.

Так, в 2001 году профессор Калифорнийского университета Кристофер Пистер ввел парадоксальное понятие умной пыли (smartdust). Этим термином он обозначил микроскопические кибернетические устройства, обладающие зачатками собственного разума и способные связываться с мириадами подобных. Подобные микророботы действительно разрабатываются в современной кибериндустрии, в основном для измерения параметров окружающей среды.

Киберпыль Лема

Такие устройства будут представлять собой компьютерный микрочип, покрытый пластиковой оболочкой, которая сможет менять свою форму при подаче электрического импульса и таким образом двигаться в направлении, определенном оператором. Электронную «пыль» можно помещать в носовую часть космических зондов и выпускать в атмосфере других планет, где они будут разноситься ветром.

И. Сибирянин. Умная пыль и сверхчеловек