Прошлое. Настоящее. Будущее

Описанная выше система («поклонился полицейскому – полтора балла, тщательно вытер ноги – полбалла») будет принята лишь на первых порах. Потом в ход будет пущен компьютерный анализ всех данных по всем гражданам. Будут искать, чем граждане с плохим поведением – скажем, имеющие уголовные или административные взыскания – отличаются от граждан с хорошим поведением. Поскольку это будет делать машина, не связанная человеческими предрассудками, а только работающая со статистикой, могут открыться самые неожиданные вещи. Например, может выясниться, что граждане, любящие чернику, страдающие астмой и любящие лошадей совершают больше правонарушений, чем другие. Искусственный интеллект среагирует на это соответственно: за сочетание подобных интересов будет наказывать заранее. Ну то есть срезать человечку баллы.

При этом человек не будет понимать, за что его, собственно, наказывают. Он будет метаться, пытаться переводить больше старушек через дорогу, вести себя безумно высоконравственно – а баллы будут всё равно снимать. Ему бы отказаться от черники, но кто ж ему это объяснит? Да никто. В конце концов, он превратится в гражданина третьего сорта, который «не может сделать ни шагу».

С другой стороны, появляются всякие сервисы, которые будут такие вопросы распутывать. Разумеется, «сомнительно и гадательно», но всё-таки. И, может быть, в последний момент бедолага узнает, что ему нельзя чернику. Откажется от неё – и рейтинг поползёт вверх.

Как это выглядит уже сейчас в Китае: «Alibaba уже запустила собственный рейтинговый сервис Sesame Credit. По какому алгоритму считаются рейтинги, компания держит в секрете. Известно лишь, что на рейтинг влияет, реальное ли имя ты указал при регистрации аккаунта в соцсетях, что ты пишешь, что читаешь и даже то, кто у тебя в друзьях. Если в друзьях люди с низким рейтингом – твой рейтинг тоже падает. Так что лучше не водиться с неблагонадежными личностями.

Также, по признанию технического директора Sesame Credit Ли Инъюня, на рейтинг влияют покупки. В интернете широко разошлась цитата из его интервью изданию Caixin, где Ли Инъюнь заявил, что “те, кто по 10 часов в день играет в компьютерные игры, будут считаться неблагонадежными, а те, кто регулярно покупает подгузники, вероятно, ответственные родители, и их рейтинг будет расти”».

Эта тема широко обсуждалась среди пользователей китайского сервиса микроблогов Weibo, аналога Twitter. Они даже попытались разработать собственную стратегию повышения рейтингов. Так, например, блогеры утверждают, что если поддерживать на счете Alipay более 1000 юаней, хотя бы раз в три-пять дней совершать маленькие покупки, использовать сервисы по управлению благосостоянием и p2p-займам, например Zhaocaibao, то твой рейтинг в Sesame Credit значительно вырастет. Таким образом, есть версия, что консюмеризм может быть одним из существенных факторов благонадежности».

Заметим вот что. Эта система вообще не основана на представлениях о справедливости, морали, праве и т. п. Все эти понятия выкидываются на помойку. Важно только то, что насчитал компьютер, анализирующий огромные массивы данных. При этом его логика будет непостижима человеческому разуму. Более того, сам компьютер не будет «знать», почему он принимает те или иные решения – они не будут иметь объяснений, ибо это будут выводы из статистических закономерностей. «Почему-то любящие чернику, страдающие астмой и любящие лошадей совершают больше правонарушений, чем другие». Почему именно – неважно, да и неинтересно. Важно, что это выявленная статистическая закономерность.