Шестое вымирание. XXI век катастроф

2 декабря 2014 года Стивен Хокинг дал интервью телекомпании «BBC». В публикации русской службы «BBC» («Хокинг: искусственный интеллект – угроза человечеству») он откровенно сказал, что появление полноценного искусственного интеллекта может стать концом человеческой расы. Опасность, по мнению Хокинга, заключается не в искусственном интеллекте как таковом, вовсе нет. Более того, примитивные формы искусственного интеллекта, уже существующие на сегодняшний день, доказали свою полезность, но, по мнению Хокинга, человечество вполне может создать что-то такое, что намного превзойдёт своего создателя: «Такой разум возьмёт инициативу на себя и станет сам себя совершенствовать со всё возрастающей скоростью. Возможности людей ограничены слишком медленной эволюцией, мы не сможем тягаться со скоростью машин и проиграем». То, что говорил Хокинг – явно не ново. Тревожные сценарии такого варианта развития событий многократно рассматривались с мировой литературе и мировом кинематографе XX и начала XXI века. Обсуждалась эта тема и в научном сообществе.

Конечно, с таким прогнозом согласны далеко не все учёные. К примеру, создатель веб-приложения «Cleverbot» Ролло Карпентер, мнение которого также приводится на русскоязычном сайте «BBC», уверен в том, что люди останутся хозяевами создаваемых ими технологий ещё очень и очень долгое время, а эти самые новые технологии помогут человечеству разрешить многие мировые проблемы. Карпентер придерживается той точки зрения, что искусственный интеллект всё же в стратегическом плане окажется позитивной силой, опасаться его, во всяком случае, пока, нет никаких резонов. Говоря об устройствах с искусственным интеллектом, Карпентер заметил следующее: «Мы не можем с уверенностью сказать, что произойдёт, когда машины превзойдут нас интеллектом. Следовательно, мы не можем предсказать, и как они поведут себя: станут ли они нам помогать, нас игнорировать или же рано или поздно нас уничтожат».

Угрозу искусственного интеллекта Илон Маск разбивает как бы на два этапа. На первом этапе, полагает создатель космической компании «SpaceX», машины, обученные выполнять грязную и тяжёлую физическую работу, запросто могут лишить миллионы людей рабочих мест. Это – так сказать, краткосрочная перспектива. А вот в более отдалённом будущем, полагает Маск, машины могут стать основной угрозой существованию людей как вида живых существ.

Разброс мнений, как мы видим, достаточно широк, но у меня, повторюсь, есть опасение, что практически одномоментные заявления на тему опасности искусственного интеллекта столь широко известных персонажей, как Хокинг, Гейтс, Маск, Карпентер и в самом деле создаёт впечатление начала широкомасштабной кампании по изменению общественного мнения. В самом деле, в строгом соответствии с технологиями «окна Овертона» эти первые информационные всполохи через весьма непродолжительное время вполне могут завершиться тем, что правительства ведущих стран, идя навстречу пожеланиям избирателей и широких народных масс, запретят (или, как минимум, на время приостановят) все опыты по созданию искусственного интеллекта. На официальном, конечно же, уровне. Однако неофициально, в закрытых правительственных и частных лабораториях, такие работы будут, разумеется, продолжены. Только все эти «широкие народные массы» знать об этом ничего не будут. А когда узнают, то, возможно, особой радости им это уже не принесёт.

Впрочем, и это ещё не всё: человечеству угрожает не только искусственный интеллект и «восстание машин». Одной из научно-технических отраслей, которая начала бурными темпами развиваться в последние годы, и опасность которой уже разглядели некоторые особо пытливые наблюдатели – пресловутые нанотехнологии.

Оптимистичные поначалу перспективы слияния человечества с невидимыми нанороботами с целью создания разумной и гармоничной окружающей среды, как мы видим, также постепенно сходят на нет. Они уступают место опасениям относительно того, что развитие науки в этом направлении даже на ранней стадии (в течение первых 5—10 лет, то есть в пределах 2010–2020 годов) вполне может привести к уничтожению сложившихся форм биологической жизни на нашей планете.