Во имя Науки! Убийства, пытки, шпионаж и многое другое

На горизонте – хищения еще более грандиозные. Новые технологии, как и в нормальном бизнесе, дают преступникам сполна воспользоваться преимуществами эффекта масштаба. Как указывали историки, в Средневековье один разбойник с большой дороги, если повезет, мог за раз обобрать максимум полдюжины человек. В середине 1800-х годов банда могла за раз ограбить 250 пассажиров поезда. В наши дни можно взломать базу данных и ограбить миллионы. В дальнейшем, если квантовые компьютеры будут соответствовать обещаниям их разработчиков, эти вычислительные машины по мощности настолько превзойдут даже современные суперкомпьютеры, что нынешняя система интернет-безопасности станет бессмысленной. Можно будет запросто завладеть сотнями миллионов счетов одним махом.

Умные преступники начнут также использовать так называемые умные технологии. Можно будет устроить пожар, дистанционно включив печь или нагреватель.

Можно будет похищать автоматизированные строительные механизмы и вносить фатальные структурные ошибки в конструкцию зданий или создавать дыры в защите компьютерных систем, о которых никто, кроме создателей, не будет знать. Можно будет перенаправлять беспилотные автомобили в толпу пешеходов или запирать все двери и посылать машину с пассажирами в пропасть. Если убавить мелодраматичности, грабители банков смогут заполонить квартал автомобилями-беспилотниками и создать пробку, чтобы полиция не смогла устроить погоню. Насилию может подвергнуться даже ваш организм. У десятков тысяч людей имеются кардиостимуляторы, нейростимуляторы и инсулиновые помпы, которые соединены беспроводной связью через вайфай или блютус с интернетом, что дает возможность врачам следить за здоровьем пациента и при необходимости оказывать помощь. Стоит взломать такой приборчик – и можно вмешиваться в физическое состояние человека. Или использовать более хитрый способ – поставлять врачу ложные данные, маскируя признаки критического состояния до тех пор, пока не окажется слишком поздно.

Доброкачественная опухоль (слева). Когда в компьютерный файл изображения добавляется «состязательный шум», человеческий глаз не замечает изменений (справа). Но программа ИИ путается и внезапно определяет изображение справа как злокачественную опухоль («состязательная атака» сгенерирована доктором Сэмюэлем Финлейсоном из Гарвардской медицинской школы).

Самая мощная из всех новых технологий – искусственный интеллект (ИИ). Программисты называют системы ИИ «хрупкими»: они хорошо выполняют определенные функции, но не обладают достаточной гибкостью и легко выходят из строя. Отказы наиболее распространены при обработке компьютером визуальных данных. Добавление наклеек на дорожный знак остановки может привести к тому, что беспилотный автомобиль неправильно прочитает знак и проедет мимо. Аналогичным образом использование дронов для проецирования ложной дорожной разметки может привести к тому, что автомобиль резко поменяет направление движения или выедет на встречную полосу (исследователи этих явлений хотели обратить на них внимание, а не причинить вред). Более тонко можно сбить с толку ИИ «состязательным шумом» – якобы случайными пикселями, вставляемыми между «1» и «0» цифрового изображения. Если человек будет слушать музыку по радио через статические помехи, он без особых усилий сможет воспринимать звучание: для него это та же музыка, но с небольшим треском. Но компьютеры пока лишены такого «высокого уровня» сознания, чтобы отсекать визуальные помехи, и добавляют к распознаваемому изображению пиксели, которые их дурачат. Во многих клиниках уже применяют ИИ для скрининга опухолей на коже, поскольку компьютеры более «внимательны», чем живые дерматологи. Если подбросить нужный визуальный шум в сканограмму, компьютер может пропустить злокачественную опухоль, практически обрекая человека на смерть.

Если вам вдруг захотелось настоящей мыльной оперы, то как насчет секс-роботов – киллеров? Роботы-дворецкие уже на горизонте, а пожилые японцы уже пользуются роботами-компаньонами, чтобы не быть в одиночестве и получать элементарную помощь. Секс-роботы представляются следующим логичным шагом; на самом деле некоторые компании уже продают примитивные версии. Учитывая, что эти роботы будут взаимодействовать с людьми в их самом, так сказать, беззащитном состоянии, буквально без штанов, нет оснований не думать, что кому-нибудь не захочется взломать компьютерную программу и не настроить их против своих владельцев.