Идиот или гений? Как работает и на что способен искусственный интеллект

Мы с коллегами разрабатываем программу Situate, которая комбинирует способности глубоких нейронных сетей к распознаванию объектов с активно-символьной архитектурой Copycat, чтобы распознавать примеры конкретных ситуаций путем построения аналогий. Мы хотели бы, чтобы наша программа распознавала не только очевидные примеры вроде тех, что приведены на рис. 48, но и нестандартные примеры, которые требуют концептуальных переходов. В типовой ситуации “прогулка с собакой” задействованы человек (который гуляет с собакой), собака и поводок. Человек держит поводок, поводок прикреплен к собаке, и собака и человек при этом идут. Верно? Да, именно это мы видим в примерах на рис. 48. Но люди, понимающие концепцию прогулки с собакой, также узнают ее на всех изображениях с рис. 49, хотя и отметят, что каждое из них лишь “с натяжкой” можно считать вариацией типовой ситуации. Программа Situate, разработка которой только началась, должна стать платформой для проверки гипотез о построении аналогий человеком и продемонстрировать, что идеи, лежащие в основе Copycat, могут успешно работать за пределами микромира задач на аналогию с алфавитными последовательностями.

Рис. 48. Четыре очевидных примера ситуации “прогулка с собакой”

Рис. 49. Четыре нестандартных примера ситуации “прогулка с собакой”

Copycat, Metacat и Situate – лишь три из нескольких программ для построения аналогий, основанных на активно-символьной архитектуре Хофштадтера[356]. Кроме того, активно-символьная архитектура не единственный метод, который используется в ИИ-сообществе для создания программ, умеющих строить аналогии. И все же, хотя построение аналогий играет фундаментальную роль на всех уровнях человеческого познания, пока ни одна программа ИИ не демонстрирует в этой сфере способностей, сравнимых с человеческими.

“Мы еще очень, очень далеко”

Текущая эпоха искусственного интеллекта определяется господством глубокого обучения с триумвиратом глубоких нейронных сетей, больших данных и сверхбыстрых компьютеров. Тем не менее в стремлении к созданию надежного и общего интеллекта глубокое обучение, возможно, натыкается на стену: имеющий первостепенную важность “барьер понимания”. В настоящей главе я кратко описала некоторые разработки, направленные на преодоление этого барьера. Я рассказала, как исследователи (включая и меня) пытаются наделить компьютеры здравым смыслом и человеческими способностями к построению абстракций и аналогий.

Размышляя на эту тему, я особенно оценила любопытный и информативный пост в блоге Андрея Карпатого, специалиста по глубокому обучению и компьютерному зрению, который руководит развитием ИИ в Tesla. В своем посте под заголовком “Состояние компьютерного зрения и ИИ: мы еще очень, очень далеко”[357] Карпатый с позиции профессионала описывает свою реакцию на фотографию, показанную на рис. 50. Карпатый отмечает, что нам, людям, это изображение кажется довольно забавным, и спрашивает: “Как компьютеру понять это изображение так же, как понимаем мы с вами?”

Карпатый перечисляет множество вещей, которые понимают люди, но которые не под силу понять лучшим современным программам компьютерного зрения. Например, мы понимаем, что на снимке есть люди, а еще есть зеркала, поэтому некоторые человеческие фигуры – это зеркальные отражения. Мы понимаем, что действие происходит в раздевалке, и нас удивляет, что в раздевалке собралась целая группа людей в костюмах.

Кроме того, мы понимаем, что человек стоит на весах, хотя весы составлены из белых пикселей, которые сливаются с фоном. Мы понимаем, как отмечает Карпатый, что “Обама слегка надавливает ногой на весы”, и без труда описываем ситуацию в трехмерном пространстве, которое достраиваем сами, а не в двумерном пространстве фотографии. Интуитивное знание физики позволяет нам сделать вывод, что из-за ноги Обамы весы переоценят вес стоящего на них человека. Интуитивное знание психологии говорит нам, что человек на весах не знает, что Обама также поставил на них ногу: мы делаем такой вывод, замечая направление его взгляда и зная, что у него нет глаз на затылке. Мы также понимаем, что человек, вероятно, не чувствует, как Обама легонько надавил на весы. Наша теория психики позволяет нам предположить, что человек на весах не обрадуется, когда весы покажут ему больший вес, чем он ожидал.

Рис. 50. Фотография, обсуждаемая в блоге Андрея Карпатого

Наконец, мы понимаем, что Обама и другие люди, наблюдающие за происходящим, улыбаются, и делаем вывод, что всем понравилась шутка, которая, возможно, стала еще смешнее из-за статуса президента. Мы также понимаем, что все смеются по-доброму и ожидают, что мужчина на весах тоже рассмеется, когда узнает о шутке. “Вы делаете выводы о настроении людей и их представлении о настроении другого человека, – отмечает Карпатый. – И выходите на пугающий метауровень”.

В общем, “поразительно, что все вышеперечисленные выводы [люди] делают, просто взглянув на двумерную конфигурацию [пиксельных] значений”.