Остров знаний

Эти жуткие мечты о сверхчеловеческих машинах остаются всего лишь мечтами, по крайней мере на данный момент. Во-первых, закон Мура не является законом природы, а лишь иллюстрирует скорость развития технологий для обработки информации, порожденных человеческим гением. Учитывая, что расчетные мощности и возможности миниатюризации физически ограничены, в какой-то момент данный закон должен перестать действовать. Однако если бы мифы превратились в реальность, у нас были бы все основания бояться цифровых устройств, постоянно улучшающих собственные коды. Каким моральным принципам будет следовать такой неизвестный интеллект? Не окажется ли человеческий род устаревшим, а значит, ненужным? Курцвейл и его единомышленники считают, что так и будет и что это хорошо. В своем фильме «Сингулярность уже близка» Курцвейл рассказывает, как ему не терпится стать гибридом человека и машины.[186] Другие (в основном, я думаю, врачи и дантисты, спортсмены, бодибилдеры и т. д.) вовсе не испытывают энтузиазма от перспективы расстаться со своим органическим телом. Если уж на то пошло, сможем ли мы вообще понять человеческий мозг без тела? Такое разделение может оказаться невозможным, ведь тело и мозг настолько прочно связаны между собой, что рассматривать их по отдельности бессмысленно. В конце концов, значительная часть человеческого мозга (как и мозга любого другого животного) занимается регулированием тела и органов чувств. Каким станет мозг, если забрать у него его главное дело – контроль над работой тела? Может ли мозг или интеллект существовать лишь для выполнения высших когнитивных функций? Будет ли такой мозг обладать эмпатией или пониманием других, физических существ? Давайте остановимся на этом моменте.

Хотя скорость обработки информации и доступ к обширным базам данных могут творить чудеса при имитации отдельных свойств нашего мозга, этого недостаточно для формирования той совокупности ментального опыта, которую мы называем сознанием. Мы можем запрограммировать машину на распознавание стилей разных художников и наделить каждого из них определенной эстетической значимостью, а затем заставить компьютер выдать свое мнение о новой работе того или иного художника. Мы даже можем научить машину создавать изображения, соответствующие стилистике заданного живописца, или писать музыку, подобную творениям Моцарта или Баха. Мы можем заставить компьютер имитировать реакции, которые мы называем эмоциональными, при загрузке в него картины (ведь машина не может видеть) или симфонии (равно как и слышать). Но эти реакции не будут подлинными, ведь они включаются в программу заранее. Почему индивидуальные эмоциональные ответы людей на ту или иную картину или мелодию так разнятся – это открытый вопрос. Что персонализирует наши чувства, наши реакции на сенсорные стимулы, имеющие эмоциональное наполнение? Иными словами, почему вы – это вы?

Важнейшую концепцию для любого обсуждения процессов работы мозга можно сформулировать одним словом – «информация». Вся физическая реальность вокруг нас, по сути, является информацией, закодированной с разной степенью сложности в комбинациях атомов, из которых формируются различные материальные структуры и мы сами. В принципе, мозг не исключение. Если приверженцы компьютерной теории разума правы, то существует четкий редукционистский путь к сознанию, основанный на методичном декодировании его информационной составляющей: мозг состоит из такого-то числа нейронов, связанных друг с другом таким-то способом, через синапсы проходят такие-то химические вещества и т. д. После того как подобная информация будет получена, ее можно будет воплотить технологически и на ее основании постепенно построить искусственный интеллект – как дом, который мы начинаем строить с фундамента, затем добавляем стены и крышу, затем прокладываем проводку и трубы и, наконец, обставляем и украшаем. Фундаментальное предположение, на котором зиждется вера в сильный ИИ, состоит в том, что после «правильной» имитации структуры мозга сознание возникнет в нем естественно и спонтанно. Однако это предположение никак не подтверждается эмпирически. Любой, даже самый быстрый анализ, показывает, что оно представляет собой наивное, если не крипторелигиозное верование, учитывая все имеющиеся у нас на сегодняшний день знания о работе мозга и природе сознания.