Измерять и навязывать. Социальная история искусственного интеллекта

В XX веке мало кому пришло бы в голову считать водителя грузовика работником умственного труда, иначе говоря, интеллектуалом. Однако в начале XXI века внедрение искусственного интеллекта (ИИ)[11] в беспилотные транспортные средства и другие артефакты побудило иначе взглянуть на ручные навыки, в частности, на вождение, и обнаружить, что самое ценное в труде никогда не сводилось к ручному компоненту, а включало в себя когнитивные и кооперативные аспекты. Нужно признать, что благодаря исследованиям ИИ водители грузовиков примкнули к интеллектуалам[12]. В этом есть парадокс и вместе с тем горькое политическое откровение: понадобилось усерднейшим образом развивать автоматизацию, чтобы увидеть, насколько глубоко «интеллектуальные способности» проявлены в занятиях и работах, которые традиционно считались сугубо ручными и неквалифицированными, – настолько, что ими пренебрегали и профсоюзы, и критическая теория. В нынешнюю цифровую эпоху лишь немногие социологи, например Ричард Сеннет, взяли на себя труд утверждать, что «делать значит думать». Этот же тезис историки науки Лисса Роберт и Саймон Шаффер выразили в изящном образе «разумной руки», которая и в ренессансной мастерской, и в индустриальную эпоху не сводилась к мышечной силе, направляя проектирование, изобретательство и научные прорывы[13]. Отрицание разумности ручного труда и общественной деятельности, наблюдаемое нами сегодня, по-видимому, представляет собой симптом избыточного роста цифровой сферы и дематериализацию человеческой деятельности, которые нагнетают вокруг ИИ ауру таинственности.

Что такое ИИ? Согласно господствующей точке зрения речь идет о попытке «разгадать загадку разумности» [intelligence]. Ключ якобы лежит в тайной логике ума [mind] или в глубинной физиологии мозга, например в сложных нейронных сетях. В этой книге я утверждаю обратное: внутренний код ИИ заключается в имитации не биологического разума, а разумности труда и общественных отношений. Сегодня представляется очевидным, что ИИ – проект, направленный на сбор знаний, выраженных в индивидуальном и коллективном поведении, и их перекодирование в алгоритмические модели с целью автоматизации самых разных задач – от распознавания паттернов[14] и манипулирования объектами до перевода с языка на язык и принятия решений. Как это бывает с типичными эффектами идеологии, «ключ» к загадке лежит на самом видном месте, но никто его не замечает – да и не хочет замечать.

Вернемся к беспилотным автомобилям. Какую работу выполняет водитель? И в какой степени ИИ cпособен эту деятельность автоматизировать? Беспилотное транспортное средство призвано имитировать – с высокой долей приближения и в условиях значительной неопределенности – все микрорешения, которые принимает водитель на оживленной дороге[15]. Искусственные нейронные сети «учатся» корреляциям между визуальным восприятием среды и механическим контролем транспортного средства (рулевое управление, ускорение, торможение), а также этическим решениям, которые в случае опасности необходимо принять за несколько миллисекунд. Вождение требует высоких когнитивных навыков, которые нельзя заменить импровизацией, и умения быстро решать задачи. Навыки вырабатываются только привычкой и тренировками – процессами, которые нельзя назвать полностью осознанными. Вождение остается, по существу, социальной и кооперативной деятельностью, регулирующейся кодифицированными правилами (включая правовые ограничения) и спонтанными элементами, к которым относится неявный культурный код – в каждой местности он свой. Считается, что закодировать такую сложную деятельность непросто, и даже бизнесмен Илон Маск признал (после не столь уж и малочисленных аварий автомобилей Tesla со смертельным исходом), что «обобщенное беспилотное вождение – это трудная проблема»[16]. Как бы то ни было, все сложности, с которыми столкнулся промышленный проект беспилотных транспортных средств, ясно показали, что задача вождения не сугубо «механическая». И если навык вождения можно перевести в алгоритмическую модель, то лишь потому, что это логическая деятельность, поскольку в конечном счете всякий труд логичен[17].