Новые темные века

Опять же, закодированные в визуальных технологиях предубеждения, особенно расовые, не новы. Название проведенной в 2013 году выставки художников Адама Брумберга и Оливера Чанарина «Сфотографировать детали темной лошадки при слабом освещении» отсылает к кодовой фразе, использованной в 1980-х годах компанией Kodak при работе над новой пленкой. С 1950-х годов для калибровки пленки Kodak предлагала тестовые карточки с изображением белой женщины и надписью «норма». Жан-Люк Годар отказался использовать пленку Kodak во время работы в Мозамбике в семидесятых годах, заявив, что она носит расистский характер. Тем не менее, компания занялась решением задачи изображения темных объектов, только когда два крупнейших клиента, занимавшихся кондитерскими изделиями и мебелью, пожаловались на то, что темный шоколад и темные стулья трудно правильно запечатлеть на фото(14). Брумберг и Чанарин также исследовали камеру «Polaroid ID 2», предназначенную для снимков на документы: специальная «кнопка усиления» вспышки упростила фотографирование черных объектов. Использование этой камеры одобрило южно-африканское правительство эпохи апартеида; она оказалась в центре внимания протестного революционного рабочего движения, когда чернокожие американские рабочие обнаружили, что именно на Polaroid делались печально известные фотографии на сберегательные книжки, которые чернокожие южноафриканцы называли «наручниками»(15).

Технология «Nikon Coolpix» и «HP Pavilion» маскирует более современный и более коварный расизм; дело не в том, что они намеренно спроектировали расистский фотоаппарат или использовали его для расового профилирования. Скорее выпускаемые камеры обнаруживают системное неравенство в технологической сфере, где над разработкой и тестированием продукции по-прежнему преимущественно работают белые. (По состоянию на 2009 год в Hewlett-Packard в США работало всего 6,74 % чернокожих)(16). Как никогда раньше становятся очевидными исторически сложившиеся предрассудки, вписанные в наборы данных, на которые мы опираемся для получения нового знания и при принятии решений.

Это осознание исторической несправедливости имеет решающее значение для понимания опасностей бездумного внедрения новых технологий, которые некритически воспринимают вчерашние ошибки. Мы не решим проблем настоящего с помощью инструментов прошлого. Как отметил художник и географ Трэвор Паглен, развитие искусственного интеллекта усиливает эти опасения из-за его полной зависимости от исторической информации, на которой проходит машинное обучение: «Прошлое пронизано расизмом. А мы обучаем искусственный интеллект исключительно на данных из прошлого»(17).

В 1940 году Вальтер Беньямин сформулировал проблему еще жестче: «Не существует документа цивилизации, который в то же время не был бы документом варварства»(18). Таким образом, обучать зарождающийся интеллект на остатках предшествующего знания означает закодировать такое варварство в наше будущее.

И эти системы мы находим не только в академических статьях или любительских камерах – они уже определяют макроуровень нашей повседневной жизни. В частности, системы правосудия и охраны общественного порядка уже во многом полагаются на интеллектуальные системы. В половине полицейских служб в Соединенных Штатах внедрены системы «прогнозирующей полицейской деятельности», такие как «PredPol», программное обеспечение, которое использует «высокоуровневую математику, машинное обучение и проверенные теории преступного поведения» для прогнозирования наиболее вероятных мест и времени, когда можно ожидать совершения новых преступлений. Эдакий прогноз погоды в сфере преступности(19).

Как ожидания физических событий связаны со случайными событиями повседневной жизни? Как расчеты поведения приобретают силу закона природы? Каким образом представление о Земле становится представлением о разуме, несмотря на все попытки разделения физического и когнитивного?

Крупнейшее в истории Японии землетрясение Ноби (8,0 балла по шкале Рихтера) произошло в 1891 году на Мино-Оварийской равнине на территории нынешней префектуры Айти. Линия разлома длиной 80 километров уходила в глубь на восемь метров. Были разрушены тысячи зданий, погибли более 7000 человек. После этого японский сейсмолог Фусакичи Омори первым описал модель афтершоков, или повторных толчков, а скорость затухания толчков стала известна как закон Омори. Здесь стоˊит отметить, что закон Омори и все его следствия являются эмпирическими законами и определяются существующими данными, различными для каждого отдельного события. Повторные толчки – грохочущее эхо того, что уже произошло. Несмотря на десятилетия усилий сейсмологов и статистиков, так и не удалось разработать аналогичный метод предсказания землетрясений путем расчета данных о толчках, предшествующих крупному сейсмическому событию.