Газета Завтра 37 (1241 2017)

5. Выход из-под контроля способных к самоорганизации автономных роботомашинных систем. Бунт роботов из художественного теоретически может превратиться в реальный кошмар недалекого будущего. Уже сегодня сбои автоматизированных систем электроснабжения повергают в хаос крупные города. Если системы искусственного интеллекта смогут самоорганизовываться и принимать самостоятельные решения, последствия предсказать невозможно.

Все перечисленные выше угрозы существованию человечества хорошо известны и многократно обсуждались. Однако реальных предложений по их нейтрализации пока не выработано. Очевидно, что НТП остановить невозможно, несмотря на его опасные для человечества последствия. Но общество может его ограничить рамками права. Чтобы быть действенными, эти ограничения должны носить международный характер и охватывать все страны с существенным научно-техническим потенциалом.

Имеющийся в настоящее время опыт заключения международных договоров по ограничению распространения ракетных и ядерных технологий, запрету бактериологического и химического оружия, проведению испытаний атомного оружия обнадеживает. Хотя эти договора не обладают механизмами принуждения к выполнению обязательств, ведущие страны мира, как правило, их придерживаются. С переходом к новому мирохозяйственному укладу, основанному на взаимовыгодном и добровольном партнерстве государств и строгом соблюдении международного права[7], спектр соглашений такого рода будет увеличиваться. Он мог бы также включать международные договоры, необходимые для ограничения охарактеризованных выше опасных направлений развития цифровых технологий. В том числе, предусматривающие:

- запрет на проведение клонирования людей;

- запрет на разработку болезнетворных вирусов и иных форм биологического оружия;

- введение международных стандартов вживления приборов в тело человека;

- мониторинг разработок систем искусственного интеллекта с целью диагностики и нейтрализации угроз для человечества;

- всемирную сертификацию специалистов получающих образование в сфере информационных технологий;

- разработку и принятие международных технических регламентов и процедур сертификации роботов-андроидов.

Россия могла бы выступить также инициатором разработки и принятия международной конвенции по научной этике, запрещающей исследования в области изменения человеческой природы, биологического оружия, программирования нацеленных на уничтожение людей самоорганизующихся робототехнических систем и пр.