Архитекторы интеллекта. Вся правда об искусственном интеллекте от его создателей

Дж. Т.: Да, в середине 2000-х гг. мне очень повезло со студентами и аспирантами. Вместе с Ноа Гудманом, Викашем Мансингхкой и Дэном Роем мы создали язык Church, названный в честь математика Алонзо Черча, в котором объединили логические языки высшего порядка, основанные на лямбда-исчислении, что стало основой для универсальных вычислений. Это формальная основа языков программирования, таких как Lisp и его диалект Scheme, которую мы использовали для представления абстрактного знания и обобщения моделей вероятностного и причинного мышления, а затем для построения наивной модели психического состояния человека (способности понять действия других людей на базе их убеждений и желаний). За 10 лет работы с этими вероятностными программами мы впервые смогли построить разумные, количественные, прогнозирующие и концептуально правильные модели понимания чужих действий. Рассмотрели мы и обратный процесс, когда из наблюдений за другими людьми делались выводы об их желаниях и убеждениях. Это пример базовых логических рассуждений, которые присутствуют даже у маленьких детей. И мы получили убедительные результаты.

М. Ф.: Допускают ли вероятностные методы интеграцию в глубокое обучение?

Дж. Т.: Да, в последние годы этот набор инструментов начали применять в нейронных сетях. Для ускорения выхода нужны нейронные сети и другие виды технологий распознавания образов.

Принцип действия нейронных сетей и вероятностных программ становится все более похожим. Разрабатываются новые языки программирования для ИИ, которые объединяют эти подходы. И в итоге уже не нужно выбирать, что лучше использовать, потому что все они – часть единой языковой структуры.

М. Ф.: Но, к примеру, Джеффри Хинтон не воспринимает всерьез идею гибридного подхода. Мне кажется, что сторонники глубокого обучения думают не только об обучении организма на протяжении всей жизни, но и об эволюции. О том, что в какой-то из ранних форм человеческий мозг был намного ближе к состоянию чистого листа. Возможно, это свидетельствует о естественном возникновении необходимых структур?

Дж. Т.: Без сомнения, человеческий интеллект – в значительной степени продукт эволюции, как биологической, так и культурной. Огромная часть нашей эрудиции и средств проявления интеллекта обусловлена информацией, накопленной поколениями. Ребенок, который вырос на необитаемом острове, конечно, может быть таким же умным, но знать он будет намного меньше, чем мы. Наши тела, появившиеся в результате эволюции, представляют собой невероятно сложные структуры с удивительными функциями. Нет оснований думать, что мозг устроен проще.

Нейробиологи не считают, что мозг – это своего рода чистый лист. Он обладает множеством встроенных структур, включающих в себя как основные модели понимания мира, так и алгоритмы обучения, позволяющие их расширить.

М. Ф.: Можно ли достичь более универсального интеллекта, добавив к глубокому обучению модель эволюционного подхода?

Дж. Т.: В DeepMind сказали бы, что они считают эволюцию частью обучения. Мне кажется, что такой подход имеет право на жизнь при условии, что мы учитываем, как на самом деле работает эволюция. Проблема в том, что в поиске оптимальной архитектуры эволюция создавала сложные структуры, в то время как современные алгоритмы глубокого обучения применяют градиентный спуск по сети фиксированной структуры.

М. Ф.: Как вы считаете, связан ли интеллект с сознанием?

Дж. Т.: Это очень сложный вопрос, потому что разные люди понимают под сознанием разные вещи. Философы, когнитивисты и нейробиологи к единому мнению пока не пришли.

М. Ф.: Хорошо, я переформулирую свой вопрос. Может ли машина обладать своего рода внутренним опытом? Является ли такой опыт обязательным условием для сильного ИИ?

Дж. Т.: Для начала рассмотрим два варианта того, что мы подразумеваем под сознанием. Во-первых, это сенсорные явления любого рода, которые в философии называют термином «квалиа». Это ощущение субъективного опыта, с трудом уловимое в любой формальной системе. Например, два человека называют красный цвет красным потому, что испытают при виде него одинаковые ощущения. Теоретически можно создать машину с такими субъективными переживаниями. Но зачем?

Во-вторых, мы определенным образом ощущаем мир и себя в нем. В таком варианте сознание уже можно рассматривать как вещь, необходимую для интеллекта уровня человека.

Если описать состояние мозга в произвольный момент на уровне функций каждого нейрона, это не будет иметь отношения к субъективному восприятию мира. Для людей мир состоит из объектов, а чувства обеспечивают единое понимание происходящего. Не ясно, как связать этот уровень опыта с нейронами, но подобный опыт необходим сильному ИИ. Причем он описывается на уровне объектов и агентов, а не на уровне состояния нейронов.