Homo Roboticus? Люди и машины в поисках взаимопонимания

Хотя компьютерный мир в то время был крошечным, противоречия подходов Маккарти и Мински, с одной стороны, и Энгельбарта – с другой, были очень осязаемыми. PARC работала над персональным компьютером; Стэнфордская лаборатория искусственного интеллекта занималась всем – от манипуляторов и мобильных роботов до программ для игры в шахматы. В недавно переименованном Стэнфордском исследовательском институте (который стали называть SRI из-за антивоенных протестов студентов) исследователи работали над широким спектром проектов – от системы NLS Энгельбарта и робота Shakey до распознавания речи и «умного» оружия. Виноград приезжал в Беркли для неофициальных встреч за ланчем с философами Сирлом и Дрейфусом, их аспирантами и Фернандо Флоресом. Хьюберт Дрейфус выступал против оптимистических предсказаний исследователей искусственного интеллекта, а Джон Сирл шел дальше и ставил один из самых острых философских вопросов XX в.: действительно ли возможно построить думающую машину?

Умевший привлечь внимание блестящий лектор Сирл никогда не уклонялся от спора. До того как заняться преподаванием философии, он был политическим активистом. Во время учебы в Висконсинском университете в 1950-х гг. он состоял в организации «Студенты против Джозефа Маккарти[15]», а в 1964 г. стал первым штатным сотрудником Беркли, который присоединился к «Движению за свободу слова». Еще когда Сирл был молодым философом, его привлекала междисциплинарная область – когнитивистика. В то время считалось, что биологический разум является аналогом оживляющего машины программного обеспечения. В этом случае понимание процессов мышления человека становилось просто вопросом разгадывания программы, заложенной в миллиардах переплетенных нейронов человеческого мозга.

Фонд Слоуна направил Сирла в Йельский университет, чтобы обсудить тему искусственного интеллекта. В самолете тот начал читать книгу об искусственном интеллекте, написанную Роджером Шанком и Робертом Абелсоном, ведущими исследователями Йеля во второй половине 1970-х гг. В их книге «Сценарии, планы, цели и понимание» (Scripts, Plans, Goals and Understanding){138} говорилось, что программы искусственного интеллекта могли «понимать» истории, составленные их разработчиками. Например, разработчики могли предложить компьютеру простую историю, описывающую, как человек идет в ресторан, заказывает гамбургер, а затем убегает, не заплатив за него. В ответ на вопрос программа делала вывод, что человек не съел гамбургер. «Здесь что-то не так, – подумал Сирл. – Получается, что мне предлагают историю на китайском языке со множеством правил расстановки символов, я не понимаю ни слова по-китайски, но все равно могу дать правильный ответ»{139}. На его взгляд, из этого не следовало, что компьютер способен понимать что-либо в результате простого умения интерпретировать набор правил.

Так, по пути в Йель у него родился аргумент против разумных машин, названный «китайской комнатой». Сирл исходил из того, что никаких смоделированных «мозгов в коробке» существовать не может. Его аргумент отличался от критики Дрейфуса, который утверждал, что невозможно добиться от программ искусственного интеллекта эффективности, сопоставимой с человеком. Сирл просто указывал, что компьютер всего лишь очень быстрое средство перебора символов, использующее ряд синтаксических правил. Чего ему не хватает, так это способности биологического разума интерпретировать семантику. Биологические корни семантики, постижения смысла, остаются загадкой. Аргумент Сирла приводил представителей сообщества искусственного интеллекта в бешенство в какой-то мере потому, что связывал их доводы с теологическим представлением о разуме как о сущности за пределами физического, биологического мира. По мнению Сирла, умственная деятельность полностью определяется биологическими процессами в мозге и реализуется в нем, и думающая машина должна копировать, а не моделировать эти процессы. В тот момент Сирл полагал, что его возражение восприняли и на дискуссию не потребуются недели, не говоря уже о десятилетиях. Но все произошло с точностью до наоборот. Реакцией на первую статью Сирла стали 30 опровержений. И даже три десятилетия спустя дискуссия далека от завершения. Число публикаций с критикой его идеи достигло к настоящему моменту нескольких сотен. Сирл по-прежнему здравствует и продолжает защищать свою позицию.

Нужно также заметить, что дискуссии за ланчем о возможности создания интеллектуальных и предположительно обладающих самосознанием машин велись на фоне наращивания военного потенциала при Рейгане. Война во Вьетнаме закончилась, но активные группы политически несогласных еще сохранялись по всей стране. Философы собирались на перекрестке через дорогу от университетского городка в Беркли. Виноград и Дэнни Боброу из Xerox PARC стали постоянными участниками этих дискуссий, и Виноград заметил, что они шли вразрез с его представлениями о философских основах искусственного интеллекта.