Убийственные большие данные. Как математика превратилась в оружие массового поражения

Настоящие океаны поведенческой информации в ближайшие годы окажутся в распоряжении систем искусственного интеллекта. И для живых людей эти системы останутся черными ящиками. Нам редко что удастся узнать о группах, в которые нас определили, и о том, почему нас туда определили. В эпоху машинного интеллекта большая часть результатов останется для нас загадкой. Многие такие группы будут постоянно мутировать – час за часом, минута за минутой, – и нас будут перебрасывать из одной группы в другую. В конце концов, один и тот же человек может вести себя очень, очень по-разному в восемь утра и восемь вечера.

Эти автоматические программы все больше будут определять, как к нам будут относиться другие машины, те, что выбирают, какие рекламные объявления нам смотреть, определяют для нас цены, выстраивают нас в очередь к дерматологу или составляют карты для наших маршрутов. Они будут действовать эффективно, казаться произвольными и совершенно непредсказуемыми. Никто не сможет понять их логику и объяснить ее.

Если мы с боем не отберем у них обратно контроль над ситуацией, эти будущие ОМП будут казаться загадочными и мощными. Они станут обращаться с нами, как им вздумается, а мы практически не будем знать, что происходит.

* * *

В 1943 году, в разгар Второй мировой, когда американские армия и промышленность нуждались в каждом солдате или работнике, правительство США реформировало налоговый кодекс, включив в налоговый вычет медицинское страхование за счет работодателя. Это не выглядело значимым событием – особенно по сравнению с заголовками газет, кричащими о германской капитуляции под Сталинградом или высадке союзников в Сицилии. В то время лишь около 9 % американских работников пользовались медицинским страхованием в качестве бонуса от работодателя. Но с новым статусом налогового вычета компании начали привлекать все новых работников, обещая им бесплатные страховки. Через десять лет уже 65 % американцев были защищены медицинским страхованием от работодателя. Компании и раньше в значительной степени контролировали наши финансы. Но за это десятилетие они в определенной мере приобрели контроль – хотели они того или нет – над нашими телами.

Семьдесят пять лет спустя расходы на здравоохранение переросли все мыслимые рамки и сейчас составляют три триллиона долларов в год. Почти доллар из каждых пяти, что мы зарабатываем, идет на нужды огромной индустрии здравоохранения.

Работодатели, которые давно уже экономят на своих работниках, чтобы снизить расходы, теперь применяют новую тактику сражения с этими растущими тратами. Они называют это «оздоровлением». Речь идет о все более пристальной слежке за работниками, включая большое количество информации, поступающей из «интернета вещей» – от фитнес-браслетов, «умных» часов и прочих сенсоров, которые постоянно поставляют данные о функционировании нашего тела.

Изначально намерения, как мы уже много раз видели, были самыми благими. Закон о доступном медицинском обслуживании (Obamacare) должен стимулировать компании к тому, чтобы они вовлекали сотрудников в оздоровительные программы и даже «поощряли здоровье». По закону работодатели могут теперь предложить премии и определить размер штрафов, доходящих до 50 % стоимости страховки. Теперь, по данным исследования Rand Corporation, более половины всех организаций, в которых работает более 50 сотрудников, имеют оздоровительные программы, и их число постоянно увеличивается.

Программы оздоровления полезны по многим причинам. Если они сработают – а как мы увидим позже, тут есть очень серьезное «если», – больше всего выиграет работник и его (ее) семья. Однако если программы оздоровления помогут работникам избегать сердечно-сосудистых заболеваний и диабета, работодатели тоже получат выгоду. Чем меньше их сотрудникам придется лечиться, тем менее рискованным весь штат сотрудников выглядит для страховой компании, которая, в свою очередь, снизит расценки для данного работодателя. Так что, если мы не будем рассматривать проблему вмешательства, программа оздоровления может показаться со всех сторон выигрышной.

Проблема заключается в том, что вмешательство не исчезнет само собой. Как и принуждение. Рассмотрим ситуацию Аарона Абрамса – профессора математики в Университете Вашингтона и Ли в штате Вирджиния. Он пользуется услугами страховой компании Anthem Insurance, которая применяет программу оздоровления. Чтобы соответствовать условиям этой программы, он должен заработать 3250 «очков здоровья». Он получает одно очко за ежедневный вход в систему, а также 1000 очков за ежегодное посещение врача и профосмотр в университете. Также он получает очки за заполнение «журнала здоровья», в котором устанавливает для себя ежемесячные цели – и при достижении этих целей ему выдается еще больше очков. Если Абрамс не захочет участвовать в программе, он должен будет платить дополнительно 50 долларов в месяц за свою страховку.