Что мы думаем о машинах, которые думают. Ведущие мировые ученые об искусственном интеллекте

«Мое мышление всегда целостно и всегда связано с деятельностью», — говорил Уильям Джеймс; необходимо помнить, как именно мы мыслим, в каких контекстах и по каким причинам. А потом сравнить это с тем, что когда-нибудь смогут делать машины.

Люди проводят от 25 до 50 процентов своей психической жизни, размышляя о будущем. Мы представляем множество вероятных исходов и наделяем большую их часть, а может, и каждый из них определенной валентностью. Следующее крайне важно: мы выбираем один из вариантов. Нам не нужно связываться с проблемами свободы воли; все, что нам нужно осознать: наше мышление служит действию и представляет нам набор возможных вариантов будущего, каждому из которых присваивается оценка. Акт выбора, хоть он и управляем, переводит наше мышление в действие.

Почему мышление организовано таким образом? Потому что у людей много конкурирующих целей (еда, секс, сон, теннис, написание статей, почет, месть, забота о детях, загар и т. д.), а ресурсов для их реализации недостаточно: не хватает денег, или старания, или даже жизни. Так что оценочное моделирование возможных вариантов будущего — один из способов решать подобные экономические задачи. Это механизм назначения приоритетов и выбора образа действий.

Причем мы испытываем недостаток не только во внешних ресурсах. Само мышление использует дорогостоящую и ограниченную энергию, а потому сильно зависит от способов сокращения мыслительных усилий и от мало осознаваемых переходов к наилучшему объяснению. Наше мышление удручающе неэффективно. Разум блуждает, в голову лезет всякая ерунда, внимание большую часть времени рассеяно. Этот процесс редко бывает связан с утомительными рассуждениями, обдумыванием и выводом умозаключений.

По большей части контекст нашего мышления социален. Да, мы можем прибегнуть к нему для решения физических или арифметических задач, но в основании, как напоминает нам Ник Хамфрис, всегда будут другие люди. Мы используем мышление для того, чтобы что-то делать в социуме: соперничать, сотрудничать, созывать присяжных, рассказывать истории и убеждать.

Я не очень хорошо разбираюсь в том, как работают современные машины. Я не думаю, что они вообще что-то делают в том значении, какое Джеймс вкладывал в произвольное действие. Сомневаюсь, что они обдумывают возможные варианты будущего, оценивают и выбирают какие-то из них, хотя это и описывает — для одной, очень простой, задачи — то, что делают шахматные компьютеры. Наши нынешние машины ограничены доступным пространством и размером счетов за электричество, но они изначально не являются творениями, основанными на ограничениях, со множеством конкурирующих целей и вечной нехваткой энергетических ресурсов. Наши нынешние машины не социальны: они не конкурируют и не сотрудничают друг с другом или с людьми, они не рассказывают историй и не пытаются никого ни в чем убедить.

Еще меньше я знаю о том, что машины когда-нибудь научатся делать. Я, однако, полагаю, что можно построить машину со следующими параметрами:

• она обдумывает и оценивает варианты будущего;

• основываясь на этой оценке, она делает выбор между конкурирующими целями и действиями;

• ее ресурсы ограничены, поэтому ей приходится воздерживаться от детальной обработки некоторых целей, действий и вариантов, следовательно, она использует упрощенные схемы обработки;

• она социальна, то есть конкурирует и сотрудничает с другими машинами или людьми, она рассказывает истории и пытается кого-то в чем-то убедить.

Появление такой машины стало бы основанием для обсуждения вопросов о ее гражданских правах, чувствах, а также о том, является ли она источником опасности или великой надежды.

Denkraumverlust

Тимоти Тейлор

Преподаватель предыстории человечества в Венском университете; автор книги «Искусственная обезьяна: Как технология изменила направление эволюции человека» (The Artificial Ape: How Technology Changed the Course of Human Evolution)

У человеческого разума есть склонность путать вещи и их образы. Для этой склонности даже есть слово — Denkraumverlust, впервые использованное историком Аби Варбургом (1866–1929) и в буквальном переводе означающее «потеря мысленного пространства». Отчасти привлекательность мыслящих машин состоит в том, что они с такой проблемой не столкнутся, будучи более логичными, чем мы. С другой стороны, они вряд ли придумают слово или термин наподобие Denkraumverlust. Поэтому то, что мы думаем о мыслящих машинах, зависит от подразумеваемого типа мышления, а также от того, что мы имеем в виду, когда говорим «машина». В отношении мыслящих машин мы путаем признак — или репрезентацию — мышления с самим предметом. И если мы исходим из того, что машина — это нечто, произведенное людьми, то мы недооцениваем степень, в которой машины производят нас, как и тот факт, что мышление возникло давным-давно в результате этого взаимодействия и на самом деле ни одной из сторон не принадлежит (представление о том, что вообще есть отдельные стороны, также может быть ошибочным).