Вперед к нечеловеческой цивилизации? [Сборник статей]

Кроме того, существуют инструменты, позволяющие добиваться от нейросетей строго определенных ошибок. Их итогом становится неправильное распознавание. Программа неточно устанавливает принадлежность и не распознает преступников, и в то же время маркирует благонамеренных граждан, как криминальных элементов. В рамках этого исследования была протестирована система распознавания лиц Amazon Recognition. В результате взлома программы обучения удалось сделать так, что программа среди преступников, которых ей удалось опознать, установила 28 членов Конгресса США. Эти 28 членов были поименованы как преступники, которые были замечены камерами городского наблюдения Вашингтона, Нью-Йорка за совершением преступных действий. Все это происходило, когда Конгресс был на каникулах, и узнанные конгрессмены вообще не могли попасть в поле зрения видеокамер в Вашингтоне и Нью-Йорке, поскольку пребывали в своих округах. Стоимость каждого лжеопознания составила 12,33 долл.

Из приведенного примера видно, что по мере перехода к подключенному государству и все более активному использованию автоматизированных систем анализа видеопотоков, криминал может подменять реальность, делая виновных невиновными, и наоборот. В ближайшие два-три года это, скорее всего, будет доступно лишь для небольшого числа высокопрофессиональных специалистов, однако в последующем окажется под силу квалифицированным хакерам, специализирующимся на преступлениях, связанных с IoT;

— использование IoT для создания криминальных армий. Уязвимости в безопасности IoT уже в настоящее время редко закрываются. В будущем же специалисты прогнозируют, что IoT будет доступен для хакеров даже больше, чем уязвимые смартфоны. В 2016–2017 гг. была разработана вредоносная программа Mirai. Зловред автоматически распознавал и идентифицировал устройства с уязвимостями и подключал их к сети. Mirai удалось собрать и использовать в течение года в криминальных целях армию ботов из более 3 млн. незащищенных IP-камер, роутеров и других устройств IoT. Армия использовалась для целенаправленных атак на банки со штаб-квартирами в США и Великобритании, а также для похищения личных данных и платежных реквизитов из розничных сетей в странах ЕС. Вполне очевидно, что с каждым годом масштабы создания криминальных бот-армий из IoT устройств будут возрастать. Поскольку атака армий, включающих миллионы устройств крайне трудна для отражения, то данная опасность должна быть купирована на начальной стадии, иначе будет поздно.

Во второй половине двадцатых годов нынешнего века экспоненциальные темпы развития информационно-коммуникационных технологий в их сегодняшнем виде стали сами по себе создавать угрозы для национальной и глобальной безопасности. В нынешнем конфликтном, все более деструктивном, мире риски неконтролируемого развития ИКТ, включая IoT, накладываются на неуклонный рост могущества небольших и даже малых — в составе пяти-семи человек — деструктивных группировок хакеров, киберкриминала и террористов. К началу двадцатых годов небольшие группы будут способны поставить под угрозу жизнедеятельность не отдельных домов или кварталов, а мегаполисов, а возможно и различного рода критических сетей. Главная проблема состоит в том, что по оценкам большинства «фабрик мысли», специализирующихся на высоких технологиях, например, Центра новой американской безопасности, для того, чтобы полностью защитить свое киберпространство в эпоху «интернета всего», Соединенным Штатам ежегодно надо тратить до 3–5 % государственного бюджета, как минимум. В условиях длительного периода низких темпов экономического роста это просто невозможно. К началу двадцатых годов Соединенные Штаты, а также возможно Япония и Великобритания станут крепостями, которые невозможно защитить не только от вражеских киберармий, но и от банд молодых хакеров и небольших киберпреступных группировок, действующих поверх границ, и игнорирующих любые государственные соглашения и договоры.

Парадокс Ферми и угрозы будущего

Магистральное направление производственной революции — это алгоритмизация всех сторон жизни современного мира

Настольные книги технооптимистов

В начале 2018 года Amazon опубликовал результаты продаж в разделе «Прогностика и нон-фикшн». С большим отрывом первые пять мест занимают книги Э.Шмидта и Д.Коэна «Новый цифровой мир», Дж. Рифкина «Третья производственная революция», К.Шваба «Четвертая промышленная революция», Ю.Харари «Homodeus» и Н.Бострома «Искусственный интеллект: этапы, угрозы и стратегии». Общий тираж этих книг, переведенных на десятки языков мира, превысил 2 млн. экземпляров.