Бог. Новые ответы у границ разума

В таком случае, что касается тех, кто привержен практическому проекту создания подлинного искусственного интеллекта, построенного на компьютерных моделях мышления, то их предприятие крайне безнадежно. Когда в 1997 году Гарри Каспаров, наконец, проиграл шахматный матч компьютеру Deep Blue, возбуждение охватило сообщество искусственного интеллекта и прессу; за рубежом оповестили, что компьютер, мол, победил шахматного мастера и сделал это, «думая» с большей гибкостью, чем его человеческий противник. Но дело обстояло совсем по-другому, как стало ясно в 2003 году, когда Каспаров столкнулся с гораздо более грозным Deep Junior и сыграл вничью. Это озадачило многих истинно верующих в искусственный интеллект. Компьютерная программа могла обрабатывать три миллиона возможных стратегий каждую секунду, в то время как Каспаров мог рассмотреть только несколько на любом данном этапе; но, как заметил Каспаров, какие бы варианты он ни рассматривал, именно они были лучшими из мыслимых. Это все потому, что Каспаров делал именно то, чего компьютер, прогоняя миллионы и миллионы бессознательных вычислительных конфигураций, не делал даже на мгновение: он думал. Ни одна мысль не прошла через маленькую монтажную плату компьютера. И у него не было интенций или чего-то даже отдаленно похожего на интенции. Он и в шахматы не играл. Все его мнимые умственные действия были на самом деле производными следствиями сознательных интенций его программистов, использовавших его схему для запуска алгоритмов, которые были в значительной степени дистилляцией обширного архива прошлых шахматных матчей, в том числе собственных матчей Каспарова; компьютер был просто перегонным кубом, через который тек дистиллят. Когда Каспаров проиграл свою партию в 1997 году, он был побежден не машиной, а огромной командой людей, в которую входил невольно и сам. И нигде в этом процессе не было какой-то разумной сущности под названием Deep Blue. И наоборот, когда Каспаров размышлял и делал ходы по доске, он мог производить в своем мозгу определенные функции, аналогичные функциям компьютера, но его сознательный акт мышления сам по себе не был компьютерным вычислением. Его разум не просто механически повторял каждую мыслимую конфигурацию шахматной доски, а затем автоматически выбирал те ходы, которые статистически наиболее вероятны для успеха; скорее, он понимал, чтó он делает, субъективно и интенционально, и его способность понимать – сразу схватывать принципы шахматной стратегии – и его память о своем предыдущем опыте, его волевые намерения и множество других вещей – позволили ему достичь целей, которые бессмысленное устройство, такое как компьютер, никогда бы не смогло достигнуть. Подобно тому как, вероятно, никогда не будет разработана компьютерная программа, чтобы, скажем, адекватно перевести стихотворение с одного языка на другой, ни одна программа никогда не будет «играть» в шахматы, даже если синтез навыков ее изобретателей окажется непобедимым для блестящего мастера шахматной игры. Рациональное мышление – понимание, интенция, воля, сознание – это вовсе не разновидность вычислений, подобных компьютерным.