Всё хреново. Книга о надежде

Единственная причина, по которой мир стал цивилизованным и люди прекратили мочить друг друга из-за каких-нибудь дурацких шляп, – то, что современные социальные институты сумели успешно обуздать деструктивную силу надежды. Демократия – одна из немногих религий, которая позволяет другим религиям гармонично сосуществовать с ней и уживаться внутри нее. Но когда из-за постоянного стремления ублажить Чувствующий мозг народа эти социальные институты начинают перекраиваться, когда люди перестают верить в то, что демократическая система способна к самокоррекции, нас снова накрывает волна религиозных войн{287}. А при нарастающем темпе технологических инноваций каждый новый виток религиозных войн будет, вероятно, оставлять еще больше разрушений и уносить еще больше человеческих жизней{288}.

Платон считал, что жизнь общества циклична: демократия сменяется тиранией, относительное равенство – очень явным неравенством, и наоборот. Прошедшие два с половиной тысячелетия показали, что это не совсем так. Но политические конфликты на протяжении всей истории действительно развивались по однотипным схемам, и мы снова и снова сталкиваемся с одними и теми же религиозными проблемами: радикальная иерархия морали господ против радикального равенства морали рабов; власть, сосредоточенная в руках тирана, против рассредоточенной власти демократических институтов, борьба взрослых добродетелей с детским экстремизмом. Хотя «-измы» менялись на протяжении веков, за каждое из этих движений отвечали все те же подпитанные надеждой человеческие импульсы. И хотя каждая последующая религия верит, что она самая последняя, та самая «Истина» с большой буквы, которая объединит все человечество под одним знаменем, до сих пор все они оказывались однобокими и небезупречными.

Глава 9 Последняя религия

В 1997 г. Deep Blue – суперкомпьютер, разработанный IBM, – обыграл Гарри Каспарова, лучшего шахматиста мира. Это был переломный момент в истории вычислительной техники, эпохальное событие, которое перевернуло представление многих людей о технологиях, интеллекте и человечестве. Но теперь это просто забавное воспоминание: разумеется, компьютер победил чемпиона мира по шахматам. Как же может быть иначе?

С самого появления информационных технологий шахматы стали излюбленным способом проверки искусственного интеллекта{289}. Все потому, что шахматы допускают почти бесконечное число вариантов: возможных шахматных партий больше, чем атомов в наблюдаемой Вселенной. Если посмотреть на три-четыре хода вперед от любой позиции на доске, там уже возникнут сотни миллионов вариаций.

Чтобы конкурировать с человеком, компьютер должен не только быть в состоянии просчитать невероятное количество возможных результатов, но и располагать надежными алгоритмами, которые помогли бы ему определить, что именно следует просчитывать. Другими словами, Думающий мозг компьютера, несмотря на свое значительное превосходство над человеческим, должен быть запрограммирован так, чтобы быть в состоянии определять более и менее важные позиции на доске – то есть в него должен быть вшит «Чувствующий мозг» умеренной мощности{290}.

С того дня 1997 г. компьютеры осваивали шахматы с бешеной скоростью. За последующие пятнадцать лет лучшие игроки мира регулярно продували шахматным программам, порой с разгромным счетом{291}. А теперь человек и рядом с ними не стоит. Сам Каспаров недавно пошутил, что шахматное приложение для смартфонов, «намного мощнее, чем Deep Blue»{292}. В наши дни разработчики шахматных программ проводят турниры между собой, чтобы посмотреть, чьи алгоритмы окажутся круче. Людей к этим турнирам не допускают: слишком мала вероятность того, что они займут хоть сколько-нибудь значимое место.

Абсолютным чемпионом среди шахматных программ последние несколько лет становился открытый движок Stockfish. Он либо выигрывал, либо становился одним из призеров почти во всех важных турнирах с 2014 г. Будучи совместным творением нескольких опытнейших разработчиков шахматных программ, Stockfish на данный момент являет собой вершину шахматной логики. Это не просто шахматный движок: он может проанализировать любую партию, любую позицию и через несколько секунд выдать комментарий гроссмейстерского уровня о любом ходе игрока.

Stockfish благополучно оставался царем горы и золотым стандартом шахматного анализа для всего мира, пока в 2018 г. на эту тусу не заявился Google.

И начались странные дела.

У Google есть программа под названием AlphaZero. Это не шахматный движок. Это искусственный интеллект (ИИ). Она запрограммирована не на шахматные или еще какие-то игры, а на обучение – не только шахматам, но и любой другой игре.

В начале 2018 г. AlphaZero выступил против Stockfish. С формальной точки зрения, силы были даже близко не равные. AlphaZero может просчитывать «только» 80 000 позиций за секунду. Stockfish – 70 миллионов. С точки зрения вычислительной мощи это как если бы я соревновался в беге с машиной «Формулы-1».