ИИ-2041. Десять образов нашего будущего

Что же можно сделать для апгрейда своей нынешней цифровой защиты, как ее обновить и усилить? Для этого уже существуют квантово-устойчивые алгоритмы. Профессор Шор, по сути, показал, что с помощью квантовых вычислений можно создать совершенно неприступную систему шифрования. Симметричный криптографический алгоритм, основанный на квантовой механике, не взломать даже посредством мощного квантового компьютера — это возможно, только если неверны принципы квантовой механики.

Но реально пока бояться нечего — квантово-устойчивые алгоритмы невероятно дороги с точки зрения вычислительных мощностей, и большая часть коммерческих и биткойн-организаций их пока даже не рассматривает. Возможно, только после неизбежного квантового ограбления люди очнутся и обновят эти алгоритмы. Искренне надеюсь, что это случится скоро!

ЧТО ТАКОЕ АВТОНОМНОЕ ОРУЖИЕ?

Автономное оружие — это, по сути, третья революция в военном деле после изобретения пороха и ядерной бомбы. Эволюция вооружения от противопехотных мин на земле до управляемых ракет в воздухе была лишь прелюдией к истинной автономизации процесса убийства с использованием ИИ — в данном случае речь об автоматическом поиске цели, принятии решения атаковать и уничтожении людей совершенно без человеческого участия.

Примером реального, уже используемого сегодня автономного оружия является израильский дрон-убийца Harpy («Гарпия»)[113]. Он программируется для полета в определенную зону, сам выслеживает цель и уничтожает ее с помощью осколочно-фугасной боеголовки, которую за эффективность прозвали Fire and Forget («стрельнул и забыл»).

Однако куда более жуткий пример нам недавно показали в вирусном видео Slaughterbots («Роботы-убийцы»)[114]. Беспилотник размером с воробья ищет конкретного человека и при обнаружении стреляет ему в голову зарядом с небольшим количеством динамита. Эти беспилотники летают сами по себе — их трудно обнаружить, невозможно остановить или уничтожить, они малы и чрезвычайно маневренны.

Сегодня опытный любитель может менее чем за тысячу долларов собрать робота-убийцу — вроде того, что чуть не убил президента Венесуэлы[115]. Комплектующие легко купить — да хоть бы в интернете, все необходимые технологии с открытым исходным кодом доступны для скачивания.

В ближайшем будущем все нынешние роботы продолжат выполнять свои функции, только вот стоимость производства (и, соответственно, цена) на них существенно упадет. ИИ и робототехника уже сегодня становятся во всех смыслах доступны. Это непреложный факт, к которому я и пытался привлечь внимание этой книгой. Даже представить страшно — убийца суперохраняемых первых лиц за штуку баксов! Это не эфемерная угроза далекого будущего — это явная и реальная сегодняшняя опасность.

Мы уже стали свидетелями стремительного развития ИИ, и эти достижения, без сомнений, уже в ближайшем будущем ускорят пришествие автономного оружия. Вспомните, как быстро эволюционировали автономные транспортные средства — от уровня 1 до уровней 3 и 4 (мы говорили об этом в главе 6). То же неизбежно произойдет и с автономным оружием.

Машины для убийства не только станут умнее, точнее, эффективнее, быстрее и дешевле — они научатся сбиваться в стаи, действовать четко и скоординированно, и это сделает их практически непобедимыми. При этом рой из 10 тысяч дронов, способный уничтожить полгорода, теоретически может обойтись замыслившему такое всего в 10 миллионов долларов.

АРГУМЕНТЫ ЗА И ПРОТИВ АВТОНОМНОГО ОРУЖИЯ

Однако у автономного оружия, разумеется, есть и положительная сторона.

Во-первых, военные действия исключительно с помощью машин сберегут множество солдатских жизней. В руках ответственных военных такое оружие может быть использовано для избирательного уничтожения реально опасных врагов без непреднамеренного убийства условных союзников (даже фактически выступающих на стороне противника), детей, гражданских лиц. (Автономные транспортные средства уровней 2 и 3 так помогают водителям избежать ошибок на дороге.) Кроме того, автономное оружие можно использовать для защиты от киллеров и вообще злодеев.

Однако приходится признать: ответственность в данном случае существенно перевешивает все возможные выгоды. Речь прежде всего об ответственности моральной — практически все этические и религиозные системы считают человеческую жизнь великой ценностью; принудительное лишение человека жизни требует обоснования и тщательной проверки.

Не зря генеральный секретарь ООН Антониу Гутерриш заявил: «Перспектива [появления] машин, обладающих способностью и властью отнимать человеческие жизни, морально неприемлема».

Далее. Автономность оружия резко снижает стоимость убийства. Да, террористы-смертники, готовые отдать жизнь за идею, дешевы, но подавляющее большинство людей преодолеть этот барьер не в состоянии. С появлением автономных киллеров ни одному человеку не придется жертвовать собой, больше жизни желая уничтожить другого.