Nexus

Разработка и соблюдение международных соглашений по ИИ потребует серьезных изменений в функционировании международной системы. Если в регулировании опасных технологий, таких как ядерное и биологическое оружие, у нас есть опыт, то регулирование ИИ потребует беспрецедентного уровня доверия и самодисциплины по двум причинам. Во-первых, скрыть нелегальную лабораторию ИИ легче, чем нелегальный ядерный реактор. Во-вторых, у ИИ гораздо больше двойного военно-гражданского применения, чем у ядерных бомб. Следовательно, несмотря на подписание соглашения, запрещающего автономные системы вооружений, страна может создавать такое оружие тайно или маскировать его под гражданскую продукцию. Например, она может разработать полностью автономные беспилотники для доставки почты и опрыскивания полей пестицидами, которые при незначительных модификациях смогут также доставлять бомбы и опрыскивать людей ядом. Следовательно, правительствам и корпорациям будет сложнее поверить в то, что их конкуренты действительно соблюдают согласованные правила, и не поддаться искушению самим отступить от них. Смогут ли люди выработать необходимый уровень доверия и самодисциплины? Есть ли в истории прецеденты подобных изменений?

Многие люди скептически относятся к способности человека меняться, и в частности к его способности отказаться от насилия и создать более прочные глобальные связи. Например, такие мыслители-"реалисты", как Ганс Моргентау и Джон Миршаймер, утверждают, что тотальная борьба за власть - неизбежное условие международной системы. Миршаймер объясняет, что "согласно моей теории, великие державы озабочены главным образом тем, как выжить в мире, где нет органа, который бы защитил их друг от друга", и что "они быстро осознают, что сила - это ключ к их выживанию". Затем Миршаймер задается вопросом, "какой власти хотят государства", и отвечает, что все государства хотят получить как можно больше власти, "потому что международная система создает мощные стимулы для государств искать возможности получить власть за счет соперников". Он заключает: "Конечная цель государства - быть гегемоном в системе".

Этот мрачный взгляд на международные отношения сродни популистским и марксистским взглядам на человеческие отношения, поскольку все они считают, что люди заинтересованы только во власти. И все они основаны на более глубокой философской теории человеческой природы, которую приматолог Франс де Ваал назвал "теорией шпона". Она утверждает, что в основе своей люди - охотники каменного века, которые не могут не воспринимать мир как джунгли, где сильные охотятся на слабых и где сила делает право. На протяжении тысячелетий люди пытались замаскировать эту неизменную реальность под тонкой и изменчивой оболочкой мифов и ритуалов, но так и не смогли освободиться от закона джунглей. На самом деле наши мифы и ритуалы сами по себе являются оружием, используемым верховными псами джунглей для обмана и заманивания в ловушку низших. Те, кто не осознает этого, опасно наивны и могут стать жертвой какого-нибудь безжалостного хищника.

Однако есть основания полагать, что "реалисты" вроде Миршаймера избирательно относятся к исторической реальности и что закон джунглей сам по себе является мифом. Как показал де Ваал и многие другие биологи в своих многочисленных исследованиях, реальные джунгли - в отличие от тех, что мы себе представляем, - полны сотрудничества, симбиоза и альтруизма, которые демонстрируют бесчисленные животные, растения, грибы и даже бактерии. Восемьдесят процентов всех наземных растений, например, находятся в симбиотических отношениях с грибами, а почти 90 процентов семейств сосудистых растений поддерживают симбиотические отношения с микроорганизмами. Если бы организмы в тропических лесах Амазонии, Африки или Индии отказались от сотрудничества в пользу тотальной конкуренции за гегемонию, тропические леса и все их обитатели быстро бы погибли. Таков закон джунглей.