Устройство памяти

На протяжении почти всей сорокалетней истории искусственного интеллекта преобладал второй из этих подходов. Однако, развивая его, разработчики совсем перестали думать о том, как работает настоящий мыслящий мозг. Вместо этого они сосредоточили внимание на решении проблем, связанных с конструированием силиконовых элементов компьютера и с разработкой математической логики. Это могло приводить к созданию более сложных и эффективных машин, но не имело никакого отношения к биологическим системам, которые вначале предполагалось моделировать. Общее мнение сторонников такого подхода откровенно выразила Маргарет Боден — философ из Суссекского университета — такими словами: «Чтобы быть мозговитым, мозги не нужны» [23].

Порочная метафора

К чему бы ни призывали разработчики моделей того или иного типа, я считаю, что оба подхода порочны в своей основе, если задача состоит в том, чтобы понять, как работают природный мозг и природный разум (или даже память). Отсюда и провал всех прежних предсказаний о возможных сроках создания искусственного интеллекта и появления компьютеров, подобных мозгу: наиболее оптимистичные последователи Винера в пятидесятых годах уверенно ожидали этого к концу шестидесятых, потом откладывали до семидесятых, восьмидесятых, а затем и на начало третьего тысячелетия. Но время шло, на смену персептронам приходили новые модели и программы и так же исчезали.

Недавно с критикой методологии и перспектив разработки искусственного интеллекта выступили три автора — философ, математик и иммунолог. Я кратко изложу их доводы, прежде чем перейду к моим собственным проблемам, связанным с вычислительной аналогией.

Первым идет философ Джон Сирл, который для аргументации своих взглядов ставит тест Тьюринга как бы с ног на голову. Представьте себе, что в закрытой комнате находится человек, который не знает китайского языка, но через машину получает вопросы, написанные по-китайски. В его распоряжении имеется код, позволяющий сопоставлять китайские иероглифы с другим набором текстов, содержащим ответы на задаваемые вопросы. Эти ответы можно передавать, опять-таки с помощью машины, за пределы комнаты. Находящимся снаружи наблюдателям будет ясно, что на заданные по-китайски вопросы поступают осмысленные ответы на том же языке; таким образом, тот, кто находится в комнате, выдержит тест Тьюринга. Но из этого никак не следует, что он понимал содержание посланий, поступавших в комнату и выходивших из нее, и отвечал на них сознательно и разумно: на самом деле он выполнял чисто автоматические операции. Именно это, говорит Сирл, делают компьютеры, и потому нет оснований считать их разумными и сознательными устройствами [24].

Второй автор — оксфордский математик Роджер Пенроуз, чья недавно вышедшая книга «Новый ум императора» содержит последовательную критику принципов коннещионизма [25]. Точка зрения Пенроуза по сути очень проста: для того чтобы эти принципы работали, в нейронной сети между клетками должны существовать достаточно стабильные, фиксированные отношения, которые могут изменяться лишь в ответ на специфические входные сигналы, после чего система должна реагировать детерминированным образом. По мнению Пенроуза, против этого говорят современные физические и математические представления. Квантовые механизмы, по его утверждению, обусловливают изначальную недепгерминированность нервных реакций; что касается математики, то ставшая весьма модной теория хаоса показывает, как недетерминированные системы могут тем не менее действовать вполне упорядоченным образом (например, случайное хаотическое движение молекул газа в сосуде приводит в целом к точной и предсказуемой зависимости между температурой, давлением и объемом, которую описывает простой газовый закон Бойля).

Таким образом, по мнению Пенроуза, стратегия редукционизма не выдерживает критики по двум взаимосвязанным причинам. Во-первых, недетерминированность на уровне нейронов и синаптических связей между ними означает, что мы никогда не сможем понять работу мозга и разума путем простого анализа составляющих компонентов, реакции которых непредсказуемы по самой своей природе. Во-вторых, эта неопределенность на уровне отдельных компонентов может, однако, обеспечивать предсказуемость на уровне всей системы. Поэтому сознание, разум, память возникают как свойства мозга в целом, а не как свойства его отдельных элементов.