Иллюзия знания. Почему мы никогда не думаем в одиночестве

Дело в том, что даже очень внимательное изучение сайта WebMD в течение нескольких минут (или даже часов) ни в коей мере не может заменить годы учебы, необходимые для приобретения специальных знаний и опыта, позволяющих поставить правильный диагноз. Аналогично нескольких минут просмотра информации на финансовых сайтах совершенно недостаточно, чтобы научиться разбираться в нюансах инвестирования. Но сознание того, что знания со всего мира находятся у вас буквально под руками, порождает ощущение, что все эти знания находятся у вас в голове.

Технология (пока) не способна на коллективный замысел

Во время написания этой книги появился наиболее продвинутый образец ИИ, помогающий решать часто встречающиеся проблемы: глобальная система определения местонахождения – GPS. GPS-устройства получили популярность в 1990-х гг. и в начале 2000-х, но повсеместно они распространились после 2007 г., когда в продажу поступили смартфоны со GPS. При поездке на автомобиле эта на удивление маленькая система разработает для вас оптимальный маршрут, выведет его на экран, в зависимости от текущей дорожной ситуации скорректирует свои рекомендации, сообщит, пропустили вы нужный поворот или нет, и даже поговорит с вами. Возможности и эффективность GPS-систем настолько поразительны, что у большинства водителей полностью изменилась манера вождения автомобиля. Во многом они изменили и взаимоотношения между людьми, чаще всего – к лучшему: например, семейная пара уже не сможет затеять ссору из-за того, нужно или не нужно остановиться и спросить дорогу.

Теперь давайте зададимся вопросом, чего не делают эти замечательные устройства. Начнем с того, что они не смогут рассчитать более длинный маршрут в случае, если вы предпочли бы приехать к родителям немного попозже. Они не подберут вам маршрут, пролегающий вдоль озера, где этим вечером должен быть особенно красивый закат. Они не скажут, что сегодня дорожные условия очень плохие и лучше остаться дома. Вернее, все это они могли бы делать, но тогда эти функции нужно заложить в программу. Они не могут прочитать ваши мысли и узнать ваши намерения (ваши цели и желания, ваши представления о том, каким образом их лучше реализовать), а затем преобразовать эти намерения в свои собственные и выдать новые предложения. Они не способны разделять ваши намерения, чтобы вместе с вами добиваться реализации совместных целей.

У нас нет общей позиции с машиной, то есть отсутствует взаимное соглашение между устройством и пользователем о том, что мы знаем и что мы делаем (за исключением самых простых случаев). Машина может спросить, является ли вашей целью, В или С, и среагировать в соответствии с вашим ответом. Но она не может преследовать общую с вами цель в том смысле, чтобы, например, в последнюю секунду взять на себя инициативу и переключиться на достижение новой цели. Можно сказать, что у вас с машиной негласный контракт, в соответствии с которым она обязуется выполнять то, на что она способна, чтобы помочь вам достичь ВАШЕЙ цели. Но вы должны быть уверены, что достаточно внятно объяснили ей, какова ваша цель. Машина не сотрудник, она – инструмент. В этом смысле ИИ больше на микроволновую печь, чем на еще одно человеческое существо. Технология может быть важнейшим элементом сообщества носителей знаний, она предоставляет информацию и служит полезным инструментом, но она не является членом сообщества в том смысле, в каком ими являются люди. Мы не сотрудничаем с машинами так же, как не сотрудничаем с овцами, мы просто их используем.

Способность к постановке общей цели – критически важный элемент для характеристики интеллекта. Основные человеческие функции, такие как язык и формирование понятий, связаны со способностью к выдвижению общих целей, ибо, как показано выше, то и другое реализуется только в процессе совместной деятельности. Мы подозреваем, что запрограммировать компьютер таким образом, чтобы у него был общий с вами замысел, будет трудно. В такую программу придется заложить способность компьютера координировать свои действия с другими (а значит, он должен будет иметь представление о том, что другие), а также осмысливать собственные и чужие когнитивные процессы. Никто не знает, как написать программу, чтобы научить компьютер «осознавать» полученную информацию. И, если кому-нибудь удастся создать такую программу, возможно, наконец поймем, что такое сознание. Пока что мы этого не понимаем.

Сейчас мы наблюдаем непростой период развития технологии. Почти все, что мы делаем, становится возможным благодаря умным машинам. Машины достаточно умны, чтобы мы могли на них полагаться как на центральный элемент сообщества носителей знаний. Однако ни один механизм не обладает уникальной способностью, столь важной для любой человеческой деятельности: он не готов к целенаправленному сотрудничеству. Это в значительной мере определяет основные контуры совместной работы человека и машины.