Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Нассим Талеб — настоящий колосс. Не только в физическом смысле — он практикует силовые тренировки продвинутого уровня, — но и, конечно, в интеллектуальном: полиглот, увлекающийся чтением античных мыслителей, признанный статистик, знаток как биржевых площадок, так и последних публикаций в области медицины. Нассим — воплощение гуманистического идеала универсального мыслителя. Своими позициями, непривычными и зачастую крайне жесткими, он нажил себе немало врагов. Но его это только радует. Пока мы усаживаемся за стол, он с рассеянным видом заканчивает спор в твиттере, как Обеликс, прихлопнувший последнего римлянина, чтобы затем проглотить своего кабана. Я не решаюсь прерывать бурлящий поток его слов и идей. ИИ ему совершенно не интересен: еще один эпифеномен в серии инноваций, не выдержавших проверки временем. Верный ученик Карла Поппера, Талеб ожидает, что ИИ придется бесконечно отбиваться от атак, которые будут на него производиться. Как технология может изменить человека, со времен Платона так безнадежно похожего на самого себя?

Талеб отвозит меня на вокзал в своей «тесле». В финале Чемпионата мира победила Франция. Прежде чем попрощаться с ним, все-таки решаюсь спросить… Его автомобиль постоянно подключен к GPS и сам паркуется: не меняют ли подобные изобретения наше отношение к риску и случайности, двум ключевым элементам его философии? Нассим пожимает плечами и сквозь зубы произносит: «Данные представляют негативную конвексивность». Чао!

Негативная конвексивность… С точки зрения концепций, разбираемых в «Антихрупкости», это означает, что данные хрупки. Непредвиденный шок может их уничтожить. Малейшее отклонение, спровоцированное на их нормальной траектории, произведет больше потерь, чем было приобретений в знании. Иначе говоря, лихорадочный сбор данных не только не стабилизирует знание, но делает его волатильным. Он порождает «шум», генерирует слишком большой объем важной информации, которая смазывает четкость сигнала. «В большом количестве данные токсичны», — замечает Талеб[170]. Доля неадекватных данных, а значит, риск ложных корреляций растет в геометрической прогрессии по мере их накопления. Вот почему оптимизация наталкивается на естественные пределы. Чем точнее что-то подогнано, тем выше риск, что рано или поздно какая-нибудь случайность нарушит работу всей системы. Талеб приводит в пример организацию аэропортов, которая настолько хорошо продумана, настолько экономит время и пространство, что простое опоздание самолета производит сбой во всей системе и сеет хаос. Говоря шире, сложность и взаимосвязанность порождают хрупкость: один алгоритм не распознал знак пешеходного перехода — и вот уже обрушился весь «умный город»[171]. И наоборот, субоптимальная система, в которой оставлено больше места для ошибки и неожиданности, оказывается «антихрупкой», способной амортизировать удары и позитивно их преобразовывать.

Эти аномальные, непредвиденные, случайные события и есть то, что помогает природе, обществу и знанию двигаться вперед. Это те самые знаменитые «черные лебеди», о которых Талеб писал в предыдущей книге: два тысячелетия человечество верило, что все лебеди белые, пока открытие одного-единственного черного лебедя не разрушило эту якобы бесспорную теорию. Мы должны следить за черными лебедями в Австралии, быть всегда готовыми менять наши теории или знания с учетом непредвиденных факторов. Помимо технических вопросов, недоверие Талеба к ИИ объясняется его любовью к случайности как условию стихийного порядка. Оптимизация создает хрупкость, а хрупкость вызывает паралич. В автономных китайских портах малейшая помеха, даже жвачка, прилипшая к сигнальной ленте, может привести к тяжелым последствиям. Поэтому порт приходится защищать и охранять, держать под колпаком. Но это мешает эволюции и совершенствованию. Верх парадоксальности: оптимизация — противоположность совершенствования! Оптимизация производится с конкретной целью, совершенствование же предполагает постоянную адаптацию к обстоятельствам, конечная цель которых неведома. Мир, строго подчиненный логике ИИ, будет непоправимо подвержен энтропии, будет тяготеть к застывшей стабильности. Повторение обмена товарами, неизменность профессий, неотменяемость любовных связей.