Основание: мораль XXI века

Это чистой воды уничтожение частной жизни по схожим сценариями Замятина (роман «Мы») и Оруэлла («1984»). Если данные будут контролироваться десятком мега-корпораций или государствами, то это высокий риск развития цифровых диктатур. Здесь довольно обширная область для спекуляций, но наша задача не фантазировать, а прогнозировать, опираясь на текущие тенденции. Итак, что мы имеем? Сейчас мы доверяем различным алгоритмам, подсказывающим нам исходя из анализа запросов в поисковых системах, интересов в соцсетях и так далее, какую книгу прочесть, какой товар приобрести, на какой фильм обратить внимание, на какого блогера подписаться, чтобы не отстать от трендов. То есть мы как бы доверили делать выбор за нас алгоритмам. И сейчас мы сохраняем свободу воли. Например, мы можем отказаться от рекомендации. В будущем же алгоритмы могут понимать нас лучше, чем мы сами: знать психологические особенности личности, политические взгляды, слабые места, мечты, надежды, провалы, достижения, научатся точно предсказывать наши чувства и действия, манипулировать нами, принимать решения за нас, создавая иллюзию свободы воли. В будущем мы рискуем потерять контроль над своей жизнью. Можно предположить, что технологии будут предопределять судьбу человека, едва ли не с младенчества, моделируя ее на основании таких данных, как место рождения, социальный статус родителей, генетические особенности, потенциальные интеллектуальные способности, предрасположенность к заболеваниям. Вы будете всю свою жизнь работать на социальный рейтинг — что-то вроде цифрового досье. В него будут вноситься все ваши достижения, неудачи, места работы, сделанные заказы услуг и товаров, данные о расходах, нарушениях правил дорожного движения, словом, каждый шаг с самого раннего возраста будет записан в персональную электронную летопись. К ней будут иметь доступ другие люди, потенциальные работодатели, правительство. Это открывает как возможности для принципиально новых социальных взаимодействий, так и угрозы в виде манипулирования вашими данными или намеренного их повреждения. Кроме того, и правительства смогут вас с легкостью отсортировать по выбранным критериям, допустим, в класс граждан с низким уровнем благонадежности.

Представьте, что уже сейчас данные о вас собираются через гаджеты, скрупулезно сортируются программами и оседают на серверах технологических корпораций. Они хотят знать о вас все, предугадывать ваше поведение, пока только в интересах маркетинга. Но что будет, когда накопится критическая масса данных? В их руках будет портрет человечества со всеми его пороками и достоинствами. Возможно, тогда откроется тайна, которая пугает и завораживает нас — ответ на вопрос: кто мы? Может быть, окажется, что человек довольно примитивное существо, возможно, напротив, откроются новые неизвестные горизонты человеческой психики.

В будущем вероятнее всего жизнь большинства людей будет вписана в рамки персонального сценария. И алгоритмы будут решать, стоит ли в вас инвестировать средства: давать доступ к хорошему образованию, карьере или оставить барахтаться на дне без особой цели и перспективы. Таким образом, продуктом информационно-технологической индустрии станет сам человек. Человек, лишенный свободы воли, погруженный в иллюзию осмысленного существования. На самом же деле человек станет обслуживающим персоналом алгоритмов, которые незаметно захватят власть над миром. Впрочем, революция, поднятая машинами, уже началась. Но ее мало кто замечает. Добро пожаловать в дивный новый мир!

Не меньше опасности представляет массовая имплантация подкожных чипов, с помощью которых можно не только улучшить работу системы здравоохранения, например, но и поставить людей под тотальный контроль, вплоть до отслеживания ваших нервных и физиологических реакций. Здесь стоит добавить еще две детали. На Всемирном экономическом форуме 2022 года генеральный директор Nokia Пекка Лундмарк заявил, что к 2030 году «смартфоны будут имплантированы непосредственно в тело». Это совпадет с появлением технологии 6G, которая, как ожидается, будет запущена к концу десятилетия. Также на встрече в Давосе президент Alibaba Group Дж. Майкл Эванс объявил о разработке «индивидуального углеродного трекера» для мониторинга того, что вы покупаете, что едите, где и как путешествуете.

Еще одна связанная угроза — цифровое правосудие. В этой области опять лидирует Китай. С недавних пор судьи этой страны должны прислушиваться к мнению искусственного интеллекта при вынесении приговоров. Таким образом, китайские власти намерены избежать человеческих ошибок во время судебных процессов. Но что, если ошибаться начнет искусственный интеллект? Притом, намеренно.

3. Уничтожение человеческого