Риск второй – риск эффекта домино. Риски внутрисистемных отказов и веерных выходов из строя растут быстрее, чем увеличивается взаимная увязанность и избыточность элементов системы. Грубо говоря, чем более всё со всем связано, тем выше риск отказов и катастроф не только из-за целенаправленных действий, но и по случайным причинам.
Риск третий – риск агрессии, или кошмар С. Лема. Еще в 1980-е годы С. Лем предположил, что в рамках технологического прогресса способность все меньших, вплоть до двух-трех человек, групп нанести неприемлемый ущерб городам, странам и блокам стран растет экспоненциально. В 2017 году Национальный разведывательный совет США опубликовал доклад «Глобальные тренды: парадоксы прогресса», в котором указывается: «В последние годы проявилась тенденция, которая будет оказывать влияние в течение ближайших 20 лет. Негосударственные группы, в том числе террористы, боевики, преступные группировки и активисты будут иметь все более широкий доступ ко все более разнообразному спектру летальных и нелетальных средств огневого, инфраструктурного и поведенческого поражения. В условиях, когда небольшие террористические, повстанческие и преступные группы могут иметь на вооружении технологии массового поражения, может возникнуть уникальная ситуация, отбрасывающая нас в Средневековье, когда с бандами преступников и отрядами наемников воевали государства. Эта тенденция уже проявляет себя».
Риск четвертый – риск оптимизации. Главным направлением развития вычислительного интеллекта является глубокое машинное обучение с использованием все более глубоких нейронных сетей. В итоге уже сегодня при использовании глубоких нейронных сетей с глубиной более 30 слоев исследователи не представляют себе, каким образом вычислительный интеллект пришел к решению той или иной задачи. При решении задач на оптимизацию это означает, что пользователи не знают всей совокупности параметров, при которых задача по заданному критерию оптимизации решена наилучшим образом. Грубо говоря, может оказаться, что оптимальное решение по заданному критерию предполагает значения сопутствующих параметров, которые не совместимы с существованием оптимизируемого объекта.
Наконец, риск пятый – риск слепоты, или скрытых параметров. Поскольку господство и подчинение в алгоритмических обществах построены на операционном, алгоритмическом контуре психики и управления и представляют собой реализацию машин третьего типа, то эти машины и симбиотически связанные с ними суперинтеллекты не способны работать с процессным, поисково-прогностическим (творческим) контуром психики, мышления и активности. Для них все решения этого контура находятся в зоне скрытых параметров. Для суперинтеллекта они находятся в так называемой «слепой зоне».
В ближайшие четверть века – возможно, наиболее опасный период человеческой истории, время разворачивающейся производственной революции, начала антропологического перехода, природно-климатической турбулентности – неизбежно будут нарастать риски и угрозы. В этих условиях безальтернативно на место геополитики, борьбы за пространство и ресурсы, придет хронополитика – борьба за время и информацию. По сути, хронополитика – это борьба за выбор будущего. С одной стороны, как справедливо отметил мыслитель и писатель-фантаст Уильям Гиббсон: «Будущее уже наступило. Просто оно пока еще неравномерно распределено». С другой стороны, перефразируя Владимира Владимировича Маяковского, не только поэзия, но и политика – это «езда в незнаемое».
На наших глазах безвозвратно уходит в прошлое мир, скроенный по британской модели. С конца XVIII века – периода начала первой производственной революции – и до сегодняшнего дня вся планета живет в экономическом, политическом, технологическом, ментальном и ценностном пространствах, базирующихся на англосаксонской модели мира: индивидуализме, рационализме, конкуренции и т. п.
Новое время требует новой модели. Борьба за эту модель и составляет суть хронополитики. В новом быстром и опасном мире нельзя остаться позади в научной, образовательной, технологической и других гонках. Проигравший опоздает если не навсегда, то на десятилетия, а возможно и столетия. Однако в турбулентном мире важно не только находиться среди лидеров гонки за будущее, но и гарантировать жизнеспособность, выживаемость. Гонка за будущее – это не стометровка. Соответственно, нельзя, сломя голову, не заботясь об устойчивости, традициях и стабильности, бездумно копировать чужие инновации. В стремительном мире безоглядная увлеченность будущим столь же опасна, как и сосредоточенность исключительно на прошлом, стремление к архаизации. Необходим баланс. Только баланс может обеспечить поворот от потребляющего к производящему обществу, экономике и культуре.
Вместо послесловия
Вызовы будущего