Nexus

Мы привыкли давать политические, идеологические и экономические интерпретации историческим революциям, таким как возникновение первых месопотамских городов-государств, распространение христианства, Американская революция и большевистская революция. Но для более глубокого понимания нам следует рассматривать их как революции в способах передачи информации. Христианство, безусловно, отличалось от греческого политеизма многими своими мифами и обрядами, но оно также отличалось и тем, что придавало большое значение единой священной книге и институту, которому было поручено ее толковать. Следовательно, если каждый храм Зевса был отдельной структурой, то каждая христианская церковь становилась узлом единой сети.4 Информация среди последователей Христа текла иначе, чем среди поклонников Зевса. Аналогичным образом, сталинский СССР представлял собой информационную сеть иного типа, чем империя Петра Великого. Сталин провел множество беспрецедентных экономических политик, но позволило ему это сделать то, что он возглавлял тоталитарную сеть, в которой центр накапливал достаточно информации, чтобы микроуправлять жизнью сотен миллионов людей. Технологии редко бывают детерминированными, и одна и та же технология может быть использована совершенно по-разному. Но без изобретения таких технологий, как книга и телеграф, христианская церковь и сталинский аппарат никогда бы не стали возможны.

Этот исторический урок должен побудить нас обратить больше внимания на революцию ИИ в наших нынешних политических дебатах. Изобретение ИИ потенциально более значимо, чем изобретение телеграфа, печатного станка или даже письменности, поскольку ИИ - это первый инструмент, способный самостоятельно принимать решения и генерировать идеи. Если печатные станки и пергаментные свитки предлагали новые средства для связи между людьми, то ИИ - полноправный участник наших информационных сетей. В ближайшие годы все информационные сети - от армий до религий - пополнятся миллионами новых членов ИИ, которые будут обрабатывать данные совсем не так, как люди. Эти новые члены будут принимать чужие решения и генерировать чужие идеи - то есть решения и идеи, которые вряд ли придут в голову человеку. Появление такого количества инопланетян изменит форму армий, религий, рынков и наций. Целые политические, экономические и социальные системы могут рухнуть, а на их месте возникнут новые. Вот почему ИИ должен стать вопросом первостепенной важности даже для тех, кого не волнуют технологии и кто считает, что самые важные политические вопросы касаются выживания демократии или справедливого распределения богатства.

В этой книге обсуждение ИИ сопоставляется с обсуждением священных канонов, таких как Библия, потому что сейчас мы находимся в критическом моменте канонизации ИИ. Когда отцы церкви, такие как епископ Афанасий, решили включить 1-е Тимофея в библейский набор данных, исключив при этом Деяния Павла и Феклы, они определили мир на тысячелетия. Миллиарды христиан вплоть до XXI века формировали свои взгляды на мир, основываясь на женоненавистнических идеях Тимофея, а не на более терпимом отношении Феклы. Даже сегодня трудно изменить курс, потому что отцы церкви предпочли не включать в Библию никаких механизмов самокоррекции. Современные эквиваленты епископа Афанасия - это инженеры, которые пишут начальный код для искусственного интеллекта и выбирают набор данных, на которых обучается детский ИИ. По мере того как ИИ будет набирать силу и авторитет и, возможно, превратится в самоистолковывающуюся священную книгу, решения, принятые нынешними инженерами, могут отразиться в веках.

Изучение истории не только подчеркивает важность революции ИИ и наших решений, касающихся ИИ. Оно также предостерегает нас от двух распространенных, но вводящих в заблуждение подходов к информационным сетям и информационным революциям. С одной стороны, мы должны остерегаться слишком наивного и оптимистичного взгляда. Информация - это не истина. Ее главная задача - соединять, а не представлять, и на протяжении всей истории информационные сети часто отдавали предпочтение порядку, а не истине. Налоговые отчеты, священные книги, политические манифесты и досье тайной полиции могут быть чрезвычайно эффективны для создания могущественных государств и церквей, которые имеют искаженное представление о мире и склонны злоупотреблять своей властью. Больше информации, как это ни парадоксально, иногда может привести к усилению охоты на ведьм.

Нет причин ожидать, что ИИ обязательно нарушит шаблон и отдаст предпочтение истине. ИИ не является непогрешимым. Тот небольшой исторический опыт, который мы получили в результате тревожных событий в Мьянме, Бразилии и других странах за последнее десятилетие, показывает, что в отсутствие мощных механизмов самокоррекции ИИ более чем способен продвигать искаженное мировоззрение, допускать вопиющие злоупотребления властью и провоцировать новые ужасающие охоты на ведьм.