Конец индивидуума. Путешествие философа в страну искусственного интеллекта

6 Первая директива

Как вернуть контроль

А теперь возвращаемся в исходную точку. Свое путешествие я закончил визитом к тому, кто меня на него сподвиг: Ювалю Ною Харари, всемирно известному историку и мыслителю, чья книга «Homo deus» завершается финальным поражением сознательного и автономного индивида. Здание, в котором он устроил свою тель-авивскую штаб-квартиру, очень похоже на него самого: внешне скромное, внутри бурлящее энергией. В квартире на последнем этаже с десяток молодых людей занимаются графиком, выступлениями и исследованиями для этой звезды поневоле. Я разделяю с ними веганский обед, радушный, но скудный. После недель, проведенных в поисках Homo deus, я снова возвращаюсь в приятное общество Homo sapiens.

Сотни интервью и прочитанных статей только подтвердили первоначальную идею Харари. Словно капитан, доставивший государю пряности Нового Света, я рассказываю ему свои истории о nudge. Расписываю, как китайцы воодушевились моделью общества, построенного на ИИ. Юваль качает головой, ему интересно, но он не удивлен. Да, наука оспаривает свободу воли, а технология отказывается от нее за ненадобностью. Нет, этот новый мир не будет либеральным, крайняя степень персонализации продуктов будет в нем сочетаться с коллективизацией процессов принятия решений. Да, изменится все: от судебной системы, которой придется отказаться от идеи вины, до демократии, которая больше не сможет опираться на выбор большинства. Нет, мы больше не сможем доверяться нашим первобытным инстинктам, поспешным суждениям, бессознательным желаниям. Но так ли это в конечном итоге плохо? Сводя меня к чисто биологическому субъекту, ИИ дает мне возможность осознать мое истинное бытие, в котором есть своя доля отрицания и зависимости. Юваль говорит, что, следуя за движениями его зрачков при взгляде на рекламу, ИИ мог бы открыть ему его гомосексуальность задолго до того, как он сам для себя ее четко сформулировал, и тем самым избавил бы его от мучений в подростковом возрасте. Ему можно было бы возразить, что эти годы мучений и сомнений как раз и позволяют сформировать и обогатить индивидуальность. Но если, как Юваль, мы прежде всего хотим избавить от страданий себя самих и других людей, и не только людей, но и всех живых существ, это слишком высокая цена. Можно обойтись и без самопознания. Почему бы не автоматизировать интроспекцию?

В этом смысле ИИ открывает путь к своеобразному индивидуальному освобождению. Понимая пружины, заставляющие нас думать и действовать, можно освободиться от самих себя. Осознание детерминизма, который нами управляет, позволяет нам установить разумную дистанцию по отношению к нашим желаниям. Их всегда можно будет удовлетворить, но не понадобится делать из них эпицентр наших действий и мыслей. Так, сексуальность из одержимости превратится в простое удовольствие, которым мы будем, не скупясь, баловать нашу столь легковерную плоть. И твиттер уже не будет нас так раздражать, когда мы сможем предугадывать собственные реакции, которые алгоритмы социальной сети предсказывают с такой устрашающей точностью. Мы станем сами для себя чем-то вроде старого товарища, с которым общаются, не питая особых иллюзий на его счет. Это изменит философию либерализма в целом: речь идет уже не о том, чтобы удовлетворить необузданные желания потребителя, а о том, чтобы помочь ему от них дистанцироваться. Я понимаю, что, несмотря на все свои призывы к критическому анализу датаизма, Юваль не собирается возвращаться к индивиду, виновному в стольких грехах как перед себе подобными, так и перед окружающей средой. «Лучший либерализм, – повторяет он свою мысль после моих наскоков, – тот, что избавляет нас от безрассудных желаний».

После этого интервью мне вспоминается Спиноза. Разве не обещал он нам в последней книге «Этики» освобождение через осознание причин и природы наших аффектов? «Нельзя придумать против аффектов никакого другого средства, которое бы находилось в нашей власти, лучше того, которое состоит в истинном познании их»[169], – для Спинозы это третья и последняя стадия познания. Но, чтобы контролировать наши влечения и эмоции, нужно установить их истинность, понять ту крупицу вечности, которая в них заложена, а не пытаться их подавлять. Спиноза не скрывает, что это сложная задача, однако, как он пишет в конце «Этики»: «Но все прекрасное так же трудно, как и редко». Представив нам по требованию подробный отчет о нас самих, со всеми доказательствами, не облегчит ли нам ИИ это познание?