Новые темные века

Фондовые биржи – не единственная область, в которой быстрое внедрение малопонятных и зачастую плохо реализованных алгоритмов привело к неожиданным и пугающим результатам, тем не менее, чаще всего бездушные алгоритмы получают наибольшую свободу действий именно в сфере цифровых рынков.

Zazzle — это онлайн-площадка для продажи печатной продукции. Абсолютно любой печатной продукции. Здесь можно купить все: от кружки, футболки или поздравительной открытки до пухового одеяла, карандаша или тысячи других товаров, на которых специально для вас разместят индивидуальный дизайн, будь то корпоративный логотип, изображение принцесс Диснея или фото из личного архива. В Zazzle утверждают, что их ассортимент включает более 300 миллионов уникальных продуктов. Это возможно, потому что все эти товары не существуют физически, пока кто-то их не купит. Каждый продукт появляется, только когда поступает заказ, а до этого момента все, что размещено на сайте, – просто картинки. Следовательно, затраты на разработку и рекламу новой продукции фактически равны нулю. Zazzle позволяет любому пользователю и даже алгоритмам добавлять в свою линейку новые продукты. Загрузите изображение, и оно мгновенно попадет на кексы, печенье, клавиатуры, степлеры, сумки и махровые халаты. Несколько смельчаков все еще пытаются реализовывать на платформе свои художественные работы, но на самом деле все здесь контролируют такие крупные поставщики, как LifeSphere, разместивший на Zazzle 10 257 товаров – от нелепых открыток до наклеек на бампер. Все, что LifeSphere выставляет на сайт в надежде найти своего покупателя, случайное сочетание различных вещей и загруженных на Zazzle изображений. Возможно, кто-то ищет деку для скейтборда с изображением разрушенного собора Святого Андрея в Файфе, а у LifeSphere она уже есть(33).

Более консервативные рынки также не застрахованы от товарного спама, неуправляемого множества, казалось бы, бессмысленных вещей. Компания Amazon была вынуждена удалить с сайта около 30 000 позиций автоматически сгенерированных чехлов для телефонов от компании My-Handy-Design, когда СМИ обратили внимание на диковинные названия: «Чехол для сотового телефона с грибком на пальце ноги, iPhone 5», «Трехлетний метис в инвалидной коляске, счастливый чехол для телефона Samsung S5» и «Больной старик, страдающий диареей, проблема с пищеварением, чехол для мобильного телефона Samsung S6». То есть Amazon фактически выпустила на рынок товары массового потребления с неприемлемыми для обычных клиентов названиями(34).

Худший кошмар Amazon случился, когда выяснилось, что компания продает ностальгические футболки с созданными алгоритмом надписями, такими как «Сохраняй спокойствие и много насилуй». Простой алгоритм, компилирующий десятки тысяч предложений из всего 700 заранее загруженных в него глаголов и местоимений, выдавал такие фразы как «Сохраняй спокойствие и зарежь ее» или «Сохраняй спокойствие и ударь ее»(35). Футболок с такими надписями в реальности не существовало, они были представлены на сайте только в виде цифровых изображений и могли «провисеть» там много месяцев, пока на них не обратили бы внимание. Даже не разобравшись в том, как могли появиться такие футболки, общественность отреагировала очень остро. Кинорежиссер, художник и теоретик искусства Хито Штейерль называет такие системы «искусственной глупостью», порождающей невиданный мир плохо спроектированных и плохо адаптированных «интеллектуальных» систем, разрушающих рынки, наводняющих электронные почтовые ящики и забивающих результаты поиска и, в конечном итоге, губительных для культуры и политических систем(36).

Самые интеллектуальные или, напротив, примитивные программы, появившиеся преднамеренно или случайно, покидают стены «черного ящика» фондовых бирж и онлайн-рынков и могут проникать в обычную жизнь. Пятьдесят лет назад машинное вычисление ограничивалось пространством одной комнаты, в которой были собраны различные реле и электрические провода. Постепенно необходимое физическое пространство сокращалось, пока не ужалось до размеров рабочего стола или ноутбука. Сегодня мобильные телефоны делятся на «обычные» (кнопочные) и «смартфоны», при этом последние обладают большей вычислительной мощностью, чем суперкомпьютеры 1980-х годов. Совершаемые ими вычислительные операции ощутимы, их можно заметить и отследить по тому, что они происходят по нашей команде, например, вслед за нажатием на клавишу или экран, или по щелчку компьютерной мыши. Хотя непосвященным сложно понять и контролировать современные компьютеры, зараженные вредоносным ПО и ограниченные лицензионными и пользовательскими соглашениями, в них все еще – сквозь подсветку клавиатуры и яркость экрана – прослеживаются вычислительные механизмы. Однако механизмы вычисления усложняются, обрастают новыми уровнями и скрытыми зонами. Увеличивается непрозрачность и непредсказуемость самой нашей жизни.