Искусственный интеллект. Большие данные. Преступность

Аппаратные части роботов уже производятся в 47 странах мира. Софт для роботов пишется во всех уголках планеты, а не менее половины софта выложено в депозитариях, как открытый программный код. Единственным исключением являются законченные решения в области ИИ. Несмотря на то, что программы и компоненты ИИ широко представлены в открытых депозитариях, самые продвинутые решения в этой сфере относят к числу наиболее охраняемых ноу-хау. В настоящее время они являются монополией пяти стран мира, в основном США и Великобритании, и до некоторой степени Япония, Израиля и Китая. Ни она другая страна мира сегодня не способна изготовить по-настоящему продвинутые системы ИИ.

Необходимо различать два типа угроз. Что касается создания оснащенных элементарным ИИ дронов, вооруженных минибомбами, отравляющими веществами и т. п.,то это уже реальность и контролировать данный процесс практически невозможно. Наиболее рациональной стратегией является заблаговременное производство систем оперативного обнаружения и уничтожения подобных дронов и других типов относительно элементарных боевых роботов, которые либо уже имеются, либо в ближайшие годы окажутся в распоряжении террористических сетей и злонамеренных государств.

Идея использовать робота как орудие убийства[20] – тривиальная. Первым человеком, погибшим от робота, стал американский рабочий С. Форд в 1970-е гг. Он работал на автоматизированном предприятии, выполнявшем покрасочные работы для автомобильной индустрии. В результате нарушения программы, отвечающей за координацию автоматических манипуляторов одного из роботов, последний вместо дверцы схватил за шею рабочего и удушил его. В 2016 г. произошло первое целенаправленное убийство с использованием робота. В палате интенсивной терапии госпиталя ордена иезуитов в Сан-Мигеле больной умер от подачи в капельницу смертоносного состава вместо предписанного лекарства. Полицейские не смогли бы обнаружить данное преступление, если бы не случайность. Программист, которого банда подрядила, чтобы взломать программу, управляющую автоматической раздачей лекарств, поделился информацией в одном из закрытых чатов. В нем присутствовал осведомитель городской полиции. Благодаря ему программист был задержан, а позднее вырисовалась вся картина.

В течение 2015–2016 гг. агенты под прикрытием и осведомители ФБР и полиции США неоднократно сообщали, что преступные синдикаты по-прагматичному серьезно обсуждали различные варианты убийств, используя насыщенные электроникой автомобили, умные дома, медицинские комплексы и т. п. Поскольку у преступников обычно мысли не расходятся со словом, а слово – с делом, вполне можно ожидать появления в Америке принципиально нового явления.

ФБР всерьез готовится к появлению подпольного синдиката, специализирующегося на заказных высокотехнологичных убийствах, замаскированных под технические инциденты различного рода. Принимая во внимание объем рынка заказных убийств в США, составляющий около 2 млрд, долларов в год, мы ожидаем появление такого сетевого синдиката, а скорее всего не одного, а нескольких, во временном интервале одного-двух лет.

Главным инструментом подобных синдикатов должны быть не хакерские программы сами по себе, а ИИ. Тонкость здесь в следующем. Различного рода автоматизированные автономные системы в подавляющем большинстве управляются из единого вычислительного центра, функционирующего как ИИ. Это позволяет осуществлять роевое обучение. Соответственно, подключиться и заместить команды одного ИИ может только другой. Программисту это не под силу. Он будет распознан из-за большей медлительности и меньшей алгоритмичности действий и операций.

Плюс только ИИ под силу замаскировать злонамеренное отключение или выполнение несанкционированных действий техническим отказом. Несмотря на некоторую экстравагантность, в ближайшее время данный преступный промысел может стать реальностью.

§ 6. Этика ИИ

В 1942 г. великий Айзек Азимов в рассказе «Хоровод» сформулировал три коротких закона робототехники:

«1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам».