Стеклянная клетка

Компьютерная автоматизация ослабляет связь между орудием и работником не вследствие своей сложности, а потому, что почти ничего от него не требует. Работа автоматизированной системы скрыта от глаз, зашифрованная компьютерными кодами. Система сопротивляется любой попытке оператора проникнуть за этот барьер. Работа на компьютере не требует утомительного обучения и высокой квалификации. Автоматизация производит на людей анестезирующий, наркотический эффект. Мы больше не ощущаем наши инструменты как части тела. В конструктивной, вышедшей в 1960 году статье «Man-Computer Symbiosis» («Симбиоз человека и компьютера») психолог и инженер Дж. Ликлидер очень хорошо описал сдвиг в нашем отношении к технологии. «В ранних системах человек-машина человек проявлял инициативу, задавал направление, осуществлял интеграцию работы и определял критерии. Механические части машин были лишь продолжением сначала человеческой руки, а потом глаза. Внедрение компьютеров решительно изменило все. “Механическое продолжение” привело к вытеснению человека и автоматизации, в которой не машина находится на подхвате у человека, а человек – на подхвате у машины» [25]. Чем глубже проникает автоматизация в жизнь человека, тем больше поводов рассматривать технологию как неумолимую, безжалостную и чужеродную силу, на которую мы не способны оказать никакого влияния, не говоря уж о том, чтобы управлять ею. Попытки что-то изменить представляются нам тщетными.

Если человек безропотно примет эту подчиненную роль – что вполне объяснимо и понятно, – то уклонится от ответственности за ход технического и социального прогресса. Да, в автоматическом комбайне за штурвалом никого нет, но этот комбайн в такой же мере произведение сознательной человеческой мысли, что и скромная коса. Человек не включает такие машины в свое сознание, как делает это с ручными инструментами, но с точки зрения этики они тем не менее являются продолжением его воли. Их намерения – это намерения человека. Если робот пугает (или, еще хуже, убивает) яркую зеленую змею, то виноват в этом не он. По мере того как компьютерные системы и программные приложения играют все бо́льшую роль в организации жизни человека и окружающего мира, возрастает наша обязанность строже подходить к решениям об использовании автоматизации.

Если это звучит наивно и беспомощно, то только потому, что избран неверный подход. Взаимодействие человека с высокими технологиями складывается не как отношения тела и его части, не как отношения братьев, а как отношения хозяина и раба. Эта идея отнюдь не нова. Она возникла на заре западной философской мысли уже в древних Афинах [26]. Аристотель, обсуждая устройство домохозяйства в начальных главах своей «Политики», утверждал, что рабы и орудия суть одно и то же, ибо первые работают как «одушевленные орудия», а вторые – как «неодушевленные орудия», равно подчиняясь хозяину дома. Аристотель говорил, что если бы неодушевленные орудия вдруг стали бы одушевленными, то ими можно было бы заменить рабов. «Существует только одно условие, при котором мы можем вообразить себе управляющих, не нуждающихся в подчиненных, и хозяев, не нуждающихся в рабах, – размышлял философ, видимо, предвосхищая появление компьютерной автоматики и машинного обучения. – Это условие заключается в том, чтобы каждое [неодушевленное] орудие могло самостоятельно выполнять свою работу либо по слову команды, либо по собственному умственному разумению. …Это было бы то же самое, как, если бы челнок сам начал ткать, а плектр [35] играть на арфе» [27].

С тех пор мышление человека окрашено представлением о том, что орудия – это рабы, что является воплощением вековой мечты людей избавиться от тяжелого утомительного труда, о которой говорили многие мыслители от Маркса до Уайльда и Кейнса. Эта же мечта сквозит в рассуждениях как технофилов, так и технофобов. «Уайльд был прав, – писал в 2013 году в своей книге “To Save Everything: Click Here” (“Сохранить все: щелкните здесь”) критик технологии Евгений Морозов, – механическое рабство – это залог освобождения человека» [28]. «Скоро у каждого из нас будет на посылках раб-робот, – заявил в журнале Wired Кевин Келли, яростный поборник автоматизации, в том же 2013 году. – Эти роботы станут делать ту работу, которую приходилось выполнять людям. Они справятся с ней намного лучше нас и освободят человека для поисков новых задач, решение которых позволит ему лучше понять самого себя» [29]. Кевин Драм, тоже в 2013 году, объявил: «Нас ожидает обслуживаемый роботами рай отдыха и соблазнов». «К 2040 году, – предрекает Драм, – наши умные, надежные и покорные роботы-рабы, которые никогда не устают, не злятся и не ошибаются, избавят нас от трудов и доставят в совершенный Эдем. Мы будем заниматься тем, чем хотим, в свое удовольствие – учиться или играть в компьютерные игры. Это будет зависеть только от нас» [30].