Всё хреново. Книга о надежде

Но теперь самое интересное: в день матча программа AlphaZero еще даже не умела играть в шахматы. Да-да, до начала матча с лучшим шахматным движком мира у AlphaZero было меньше суток на то, чтобы с нуля обучиться этой игре. Большую часть дня программа прогоняла симуляции шахматных игр с самой собой, обучаясь в процессе. Она разрабатывала свои стратегии и принципы так, как это делает человек: методом проб и ошибок.

Вот представьте себе такой сценарий. Вы только что узнали правила игры в шахматы, одной из самых сложных игр на планете. У вас меньше суток на то, чтобы попрактиковаться на доске и придумать какие-то стратегии. А потом, в своем самом первом матче, вы встретитесь с чемпионом мира.

Удачи.

И все же AlphaZero победила. Нет, не просто победила. Она раскатала Stockfish. AlphaZero либо выиграла, либо сыграла вничью все сто партий.

Я повторю: спустя какие-то девять часов после того, как AlphaZero впервые узнала правила игры в шахматы, она встретилась с лучшим шахматным движком в мире и не проиграла ни одной партии из ста. Результат абсолютно беспрецедентный, и никто до сих пор не знает, что с этим делать дальше. Гроссмейстеры были потрясены изобретательностью и находчивостью AlphaZero. Один из них, Петер Хейне Нильсен, с восторгом заявил: «Мне всегда было любопытно, что бы было, если бы на землю высадились существа высшего порядка и показали нам, как они играют в шахматы. Думаю, теперь я себе это представляю»{293}.

Разделавшись со Stockfish, AlphaZero на этом не остановилась. Пф-ф-ф, я вас умоляю! Отдых нужен только хлипким людишкам. Едва доказав свое превосходство в шахматах, AlphaZero начала учиться стратегической игре сёги.

Сёги часто называют японскими шахматами, но многие утверждают, что эта игра еще сложнее{294}. Если шахматист Каспаров проиграл компьютеру в 1997 г., лучшие игроки в сёги начали уступать машинам только с 2013 г. Тем не менее AlphaZero сокрушила лучшую программу сёги (под названием Elmo) примерно с такими же невероятными результатами: из ста партий она выиграла восемьдесят, проиграла восемь и две сыграла вничью. Опять же, вычислительные мощности AlphaZero значительно уступали мощностям Elmo. (В данном случае она могла просчитывать 40 000 ходов в секунду, а Elmo – 35 миллионов.) И опять же, еще за день до матча AlphaZero не имела представления о том, как играть в сёги.

С утра пораньше AlphaZero бралась изучать две бесконечно сложные игры. И до захода солнца умудрялась разгромить самых сильных противников в мире.

Новость дня: ИИ уже на пороге. Шахматы и сёги, конечно, хорошо, но когда ИИ перейдет от игровых столов к столам переговоров… мы с вами все, возможно, останемся без работы{295}.

Программы ИИ уже придумывают собственные языки, которые люди не могут расшифровать, умеют лучше врачей диагностировать пневмонию и писать сносные главы для фанфиков по «Гарри Поттеру»{296}. Пока я пишу эти строки, все идет к тому, что у нас вскоре появятся самоуправляемые автомобили, автоматизированные юридические консультации и даже созданные компьютером картины и музыка{297}.

Медленно, но верно ИИ начнет превосходить нас практически во всем: в медицине, инженерии, строительстве, искусстве, технологических инновациях. Мы будем смотреть фильмы, произведенные ИИ, и обсуждать их на веб-сайтах или на мобильных платформах, созданных и модерируемых ИИ, – и может даже оказаться, что «человек», с которыми вы вступите там в спор, будет тоже ИИ.

Но, как бы безумно это ни звучало, это только начало. Потому что вот где начинается реальный дурдом: однажды наступит день, когда ИИ сможет лучше человека писать программы ИИ.

Когда этот день настанет, когда ИИ сможет сам, по собственной воле, продуцировать улучшенные версии себя, – вот тогда держитесь, амиго, потому что нам предстоит еще та поездочка и выбирать дорогу будем уже не мы.

Однажды ИИ обгонит нас настолько, что мы перестанем понимать, что он делает. Машины будут сами собой заезжать за нами и отвозить в места, о существовании которых мы даже не подозревали. Мы будем неожиданно получать лекарства от болезней, о наличии которых у себя даже не догадывались. Вполне возможно, наши дети будут переходить в другие школы, мы будем менять работу, экономическая политика будет резко брать другой курс, правительства будут переписывать конституции – и никто не будет в полной мере понимать, почему это происходит. Это будет случаться как бы само собой. Наш Думающий мозг будет слишком медлительным, а Чувствующий – слишком импульсивным и опасным. И как AlphaZero сумела за несколько часов изобрести такие шахматные стратегии, которые не могли предвидеть лучше шахматные умы, более продвинутый ИИ сможет реорганизовывать общество и весь окружающий мир совершенно непредсказуемым для нас образом.