Русская эсхатология: история общественной мысли России в фокусе апокалиптики

Между тем тревожные аллюзии вызывают различные прецеденты действий роботов. Особый резонанс вызвало интервью с роботом Софией, пообещавшей в будущем уничтожить человечество. Во время другого интервью она заявила об установлении в дальнейшем доминирования роботов над человеческой расой. Между тем София в соответствии с духом постмодернистской эпохи приглашалась для выступления в ООН. Ей было предоставлено гражданство Саудовской Аравии. И это при том, что женщинам в саудитском государстве гражданство не предоставляется вовсе. Во всем этом, безусловно, есть и постмодернистский абсурдизм, есть, вероятно, и фейки, стремление раздуть сенсацию. Но есть также и реальные проблемы: 1) создание машины, выходящей из-под контроля человека и обращающейся против ее же создателя; 2) использование создателем сверхмощной машины во зло человечеству либо части человечества.

В создании робота Софии соучаствовали американцы и китайцы. Автором проекта стал американец Дэвид Хэнсон, разработавший оболочку модели по визуальному образцу британской актрисы Одри Хепберн. Непосредственным изготовителем конструкции явилась гонконгская компания Hanson Robotick. США и Китай и выступают сегодня основными акторами разработок в сфере создания искусственного интеллекта. И это лидерство определяется не только технологическими преимуществами, но и отсутствием ментальных сдерживателей.

Американская культура не знала в своем генезисе Средневековья, а соответственно, не знала и Возрождения. Она сразу началась с Нового времени. Как следствие, той антропоцентричной рефлексии, которая имела место в Европе, в ней не было. Американцы – утилитаристы, и приемлемость для них выражается критерием «это работает». Если робот работает лучше человека, человека следует заменить роботом. Рынок, как говорится, диктует.

Китайцы еще более утилитаристичны, чем американцы. Антропоцентричная доминанта в китайской цивилизации была выражена в гораздо меньшей степени, нежели в других цивилизационных типах. Соответственно, и символическая грань между роботом и человеком для восприятия китайцев менее критична, чем для кого бы то ни было, а ее преодоление не продуцирует рефлексии о дегуманизации.

Конечно, проще всего отмахнуться от всех подобных «страшилок», сказав, что это не более чем гуманитарные фантазии. Столь жесткого противостояния, как в России, «гуманитариев» и «технарей», «лириков» и «физиков», вероятно, нет больше нигде, чему есть свое объяснение. И такое противопоставление, являвшееся в свое время реакцией на идеологический диктат диалектического и исторического материализма, играет сегодня крайне отрицательную роль при решении задач, требующих междисциплинарных подходов. В отношении же угроз, связанных с реализацией проектов создания искусственного интеллекта в будущем, имеются предупреждения от круга лиц, практически связанных с разработкой и внедрением новых технологий.

Среди них – знаменитый британский физик, теоретик и космолог Стивен Хокинг. Более авторитетную фигуру в экспертной оценке перспектив искусственного интеллекта трудно отыскать[438]. Хокинг недвусмысленно указывал на угрозу, исходящую от машин, для человека, говорил о проигрыше человечества в конкурентной борьбе с роботами. «Появление полноценного искусственного интеллекта может стать концом человеческой расы»[439]. «Такой разум возьмет инициативу на себя и станет сам себя совершенствовать со все возрастающей скоростью. Возможности людей ограничены слишком медленной эволюцией, мы не сможем тягаться со скоростью машин и проиграем»[440]. Хокинг во втором из представленных высказываний говорит не только о факте конкуренции, но и о механизме, обеспечивающем победу роботов – о способности к самосовершенствованию, осуществляемому с большой скоростью. Значит, по мнению знаменитого физика и в противоречии с позицией скептиков, машина способна саморазвиваться.

Хокинг, исходя из обнаруживаемых угроз, стал одним из инициаторов подписания принципов развития искусственного интеллекта, состоявшегося в 2017 году, за год до смерти великого физика. Подписание, к которому были привлечены многие известные ученые и руководители профильных компаний, состоялось в Азиломаре, США, по результатам работы конференции исследователей и разработчиков в сфере искусственного интеллекта. В дальнейшем круг подписантов расширялся, превысив уже три с половиной тысячи специалистов из разных стран мира. Отдельную группу составили в принятом документе нравственные вопросы развития искусственного интеллекта, что являлось важной фиксацией значимости темы нравственности в дальнейшем техническом прогрессе. Из 23 сформулированных принципов развития искусственного интеллекта особого внимания в контексте рассматриваемой темы заслуживают следующие позиции:

«10. Согласование ценностей. Высокоавтономные системы ИИ должны проектироваться так, чтобы их цели и поведение согласовывались с человеческими ценностями во всех аспектах их работы.