Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Когда я передаю эти возражения экономисту Роберту Аткинсону, он отвечает: да, нужно оставаться ниспровергателем устоев в мышлении, но только не на практике. Иначе говоря, он бы поощрял расхождения на теоретическом уровне, однако не видит в них пользы, когда речь заходит о медицине или экономике. Но можно ли культивировать критический дух в абстракции, не применяя его в самых насущных областях нашей жизни? Нассим Талеб, впрочем, не стесняется показаться ниспровергателем устоев в области медицины, приписывая достоинства антихрупкости методам, унаследованным из тысячелетнего опыта: например, по интеллектуальным соображениям соблюдает православные посты. Он уверен, что целевые, точечные потрясения — лучшая услуга, которую можно оказать своему организму (и это совпадает с современными теориями о пользе «аутофагии»). Разве без таких экспериментов, выходящих за рамки академического консенсуса, мог бы управляемый ИИ мир произвести хоть что-нибудь, кроме простого повторения одних и тех же выводов и ошибок? Какое чудо поможет нам сохранить способность мыслить иначе, чем принято в группе, если мы подчиняемся ей в нашем бытовом поведении?

Роль случая превосходно иллюстрирует естественная эволюция. Я часто просил моих собеседников представить себе ИИ, которому поручено оптимизировать отношения между первыми бактериями, вышедшими из пребиотического супа три или четыре миллиарда лет назад. Пытаясь улучшить жизнь бактерий и устранить аномалии, не перекрыл бы ИИ путь, ведущий к появлению человечества? Потому что эволюция — это череда ошибок. Биолог Стивен Джей Гульд очень наглядно показал в своей концепции «экзаптации», как естественный отбор, избегающий движения по прямой, занимается бриколажем из подручных материалов. Он не преследует никакой цели, а просто ощупью ищет новое. Так, у некоторых позвоночных, живущих в воде, лапы имелись еще задолго до переселения на сушу, и они были «экзаптированы» для передвижения по ней только во вторую очередь. Рыбы не говорили себе: ну надо же, лапки полезны, чтобы выбраться на сушу. Они использовали умеренно полезный (субоптимальный) орган для инновационных экспериментов. ИИ, вероятно, порекомендовал бы им избавиться от этих неудобных приспособлений, которые мешают быстро плавать и увеличивают риск попасться хищнику. То есть если бы жизнью на глубинном уровне не двигал механизм случайности, человек вообще мог бы не появиться… и кто бы тогда изобрел ИИ?

Вероятно, та же самая логика применима к развитию городов. Планирование создало пространства, в которых невозможно жить, пустые новые города, кварталы из уродливых строительных блоков. Китай сегодня без остановки занимается строительством, стирая последние следы прошлого, строит новые «умные города», функциональные и бесчеловечные. Апогеем этого архитектурного бедствия должен стать Сюнъань — мегалополис, строящийся по распоряжению президента Си Цзиньпина в чистом поле в ста километрах от Пекина. Но куда устремляются китайские туристы, оказавшись в Париже? В Марэ, на Монмартр, на гору Сент-Женевьев, в сплетенье улочек, которые удалось уберечь от монотонного рационализма барона Османа, справедливо прозванного Атиллой. Эстетика как удобство для жизни родилась из истории и череды ее несовершенств. Я спросил у китайского ученого из Alibaba, как бы выглядел Париж, если бы его концепцию разрабатывал City Brain. «Время поездки на транспорте сократилось бы вдвое», — ответил он. Ну надо же!..

Когда я проводил интервью в Uber в Сан-Франциско, к нам присоединился исследователь ИИ Кеннет О. Стэнли, автор статьи, разоблачающей «миф о целях»[172]. Его тезис прост: самые большие открытия — как в истории науки, так и в жизни человека — происходят за рамками поставленных целей и задач. Автор на первых же страницах признает, что в области его компетенции, то есть ИИ, есть какая-то одержимость критериями и процессами оптимизации. «Поскольку в сфере ИИ слишком много целей и задач, рано или поздно ученые, занимающиеся его разработкой, зададутся вопросом о функции целей». Это редкое выступление в защиту серендипности идет вразрез с большинством используемых ныне технологий ИИ. Прогресс невозможно определить заранее: он содержит и внедряет свои собственные нормы. Разумеется, в повседневной жизни цели и задачи необходимы, но нужно уметь отказываться от них, когда открывается более интересный путь. Как и Нассим Талеб, Кеннет пытается рационально объяснить, почему избыток рациональности вредит ей самой. Непредсказуемость — не нехватка знаний, которую нужно восполнить, как это представляют себе нынешние поклонники ИИ[173]. Это фундаментальный элемент эволюции знания.