Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Я ожидал, что встречу гика в очках, но вот передо мной на террасе штаб-квартиры Google сидит активист с собранными в пучок волосами, потягивающий сок из органических фруктов. Джейкоб Узкорейт, известный специалист по компьютерным наукам, — автор значительных теоретических открытий, позволяющих наделить нейронные сети ИИ памятью[160]. Он читает мне страстную проповедь об уважении к частной жизни, и у меня нет никаких оснований ставить под сомнение его искренность. Он выступает против так называемых эхокамер в YouTube или Facebook, уверяя меня, что Google лишь в «незначительной» мере отслеживает мои поисковые запросы и, кроме того, предоставляет возможность деперсонализации. Я знаю о немецком происхождении Джейкоба, и это, вероятно, заставляет меня вспомнить о хакерах, которых я встретил два года назад в Берлине, — они тогда занимались тем, что устраивали марши… против Google. И если Google обвиняют в создании «когнитивных пузырей»[161], которыми может объясняться распространение теорий заговора[162], возможно, Джейкоб — двойной агент, отстаивающий германские ценности в самом центре GAFA?

Я пользуюсь его дружелюбием, чтобы удовлетворить личное любопытство, и спрашиваю, как расставляют приоритеты в результатах поисков. «Задача в том, чтобы поднять не ту информацию, которую ты хотел бы посмотреть, а ту, которую ты на самом деле ищешь», — отвечает Джейкоб. Алгоритмы Google подвергают данные, оставляемые в сети пользователем, глубокой обработке, чтобы попытаться лучше понять сокровенные желания человека, выходящие далеко за пределы его явных предпочтений. Когда я ввожу запрос «купить машину», возможно, мне хочется увидеть «Ягуар», однако Google, зная состояние моего кошелька, поскольку ему известна моя история поисков (или моя переписка в Gmail), скорее всего, предложит «Рено Твинго», чтобы такой поисковый результат был мне полезен. Все это вполне соответствует логике nudge, которая должна обеспечивать наше благосостояние, предлагая нам такой вариант, который мы сами бы не определили. А что же Джейкоб думает о свободе воли? «Люди редко понимают сами себя», — логично объясняет он, поэтому лучше довериться объективным данным, а не субъективному суждению. Но не видит ли он в самом устройстве поисковой машины утилитаристской логики? «Конечно, вне всяких сомнений». Итак, перед Google стоит задача познать меня лучше, чем я знаю себя сам, чтобы удовлетворить всех нас.

Нет ли внутреннего противоречия между защитой частной жизни и технологиями Google (даже если не говорить о его экономической модели)? Джейкоб кивает: «Это парадокс. Для усовершенствования ИИ нужно собирать как можно больше данных». Чтобы оптимизировать мои поиски в Google, в идеале следовало бы знать мое потребление электричества или, к примеру, мое поведение на сайтах знакомств… Можно создавать сколько угодно комитетов по этике, но этот парадокс так и не получит разрешения. Глядя на слегка смущенного Джейкоба, я понимаю, в чем состоит противоречие, присущее американской цифровой экосистеме в целом. Больше данных — выше эффективность. Меньше данных — больше свободы. Никакой золотой середины тут быть не может.

Кай-Фу Ли считает позицию Кремниевой долины, которая хотела бы творить добро, одновременно извлекая из этого прибыль, лицемерием. Более удачным словом мне кажется «шизофрения». В своей знаменитой работе Макс Вебер связал дух капитализма, определяемый как стремление к созданию богатства, с протестантской этикой, которая превращает труд в подлинную миссию, а аскетизм — в правило жизни. Нужно преуспеть в своем бизнесе, но не для того чтобы наслаждаться богатством, а чтобы следовать библейским заповедям. Экономический успех дает уверенность в том, что ты в числе немногих избранных Богом. Накопление капитала — это долг, который хорошо иллюстрирует притча о талантах: хозяин награждает слуг, получивших прибыль с его средств, и наказывает того, кто сохранил их, не пустив в оборот. Соответствующее формирование частной сферы представляет собой условие, необходимое для личных отношений с Богом и в целом для развития морального чувства. Протестантская Америка обязана своим успехом этому хрупкому равновесию между поиском рентабельности и культурой частной жизни. Лучший пример — Бенджамин Франклин, отец-основатель США, новатор и неустанный предприниматель, но также дотошный моралист, который сурово судил свои собственные действия в личном дневнике. Однако Google сегодня не может быть одновременно эффективным и добродетельным: чтобы служить человеку, он должен его обнажить. ИИ заставляет отделить дух капитализма от протестантской этики. Вот почему США утратили свое призвание, и я неоднократно слышал об этом от самых разных людей. Увы, Джейкобу никогда не стать Франклином…