Идиот или гений? Как работает и на что способен искусственный интеллект

Когда глубокое обучение продемонстрировало целую серию успехов, многим – как в сообществе ИИ, так и за его пределами – показалось, что создание общего ИИ человеческого уровня не за горами. Однако, как я не раз говорила в этой книге, при более широком применении систем глубокого обучения в их “интеллекте” обнаруживаются изъяны. Даже самые успешные системы не умеют обобщать понятия за пределами узких областей своей компетенции, строить абстракции и устанавливать причинно-следственные связи[343]. Кроме того, их нечеловеческие ошибки и уязвимость к так называемым контрпримерам показывают, что они не понимают концепции, которым мы пытаемся их обучить. Можно ли исправить эти недостатки с помощью большего объема данных или более глубоких сетей? Или же проблема гораздо серьезнее? Споры об этом не утихают по сей день[344].

В последнее время я наблюдаю сдвиг в этих дебатах: сообщество ИИ снова заговорило о первостепенной важности наделения машин здравым смыслом. В 2018 году один из основателей Microsoft Пол Аллен удвоил бюджет своего исследовательского института с целью изучения здравого смысла. Не отстают и государственные финансирующие организации: в 2018 году Управление перспективных исследовательских проектов Министерства обороны США (DARPA), один из основных государственных спонсоров исследований искусственного интеллекта, обнародовало планы предоставить значительное финансирование для изучения здравого смысла в ИИ. “ [Сегодня] машины мыслят узко, а их рассуждения имеют в высшей степени специализированный характер, – подчеркнули в управлении. – Рассуждения на основе здравого смысла машинам никак не даются. Программа [финансирования] приведет к созданию знаний, в большей степени напоминающих человеческие, например основанных на восприятии, и позволит машинам на основе здравого смысла рассуждать о физическом мире и пространственно-временных феноменах”[345].

Абстракция в идеале

“Формирование абстракций” входило в список ключевых способностей ИИ, перечисленных в дартмутской заявке 1955 года, которую я описала в главе 1. Тем не менее задача научить машины строить концептуальные абстракции на манер человека по-прежнему не решена.

Именно вопросы построения абстракций и аналогий однажды привели меня в сферу ИИ. Мой интерес разгорелся с особенной силой, когда я открыла для себя зрительные головоломки, называемые задачами Бонгарда. Эти задачи предложил советский кибернетик Михаил Бонгард, который в 1967 году опубликовал книгу “Проблема узнавания”[346]. В книге описывалась предлагаемая Бонгардом система распознавания зрительных образов, напоминающая перцептрон, но наиболее значимой частью работы стало приложение, в котором Бонгард собрал сто задач для программ ИИ. На рис. 45 показаны примеры задач из коллекции Бонгарда[347].

В каждой задаче изображены 12 квадратов: шесть слева и шесть справа. В шести левых квадратах содержатся примеры одного понятия, в шести правых квадратах – примеры другого, “родственного” понятия, и два этих понятия идеально определяют два набора квадратов. Необходимо назвать эти понятия. Например, на рис. 45 понятия таковы (по часовой стрелке): “большой” и “маленький”, “белый” и “черный” (или “незакрашенный” и “закрашенный”, если хотите), “право” и “лево”, “вертикальный” и “горизонтальный”.

Рис. 45. Четыре задачи из книги Бонгарда. В каждой задаче необходимо определить, какие понятия отличают шесть квадратов слева от шести квадратов справа. Например, в задаче № 2 это понятия “большой” и “маленький”

Решить задачи с рис. 45 довольно просто. В своей книге Бонгард расположил примеры в порядке повышения предполагаемой трудности. Ради интереса взгляните на шесть более трудных примеров, приведенных на рис. 46. Я дам ответы на них ниже.

Бонгард составил задачи таким образом, чтобы их решение требовало способностей к построению абстракций и аналогий, которые необходимы человеку и системе ИИ в реальном мире. В задаче Бонгарда можно считать каждый из двенадцати квадратов миниатюрной идеализированной “ситуацией”, в которой участвуют различные объекты, признаки и взаимосвязи. Ситуации слева имеют некоторую общую “суть” (например, они “большие”), а ситуации справа – противоположную общую “суть” (например, они “маленькие”). В задачах Бонгарда, как и в жизни, бывает нелегко понять, в чем заключается суть ситуации. Как выразился специалист по когнитивистике Роберт Френч, для построения абстракций и аналогий необходимо замечать “неуловимое тождество”[348].

Рис. 46. Шесть дополнительных задач Бонгарда

Чтобы найти неуловимое тождество, нужно определить, какие признаки ситуации значимы, а какие можно опустить. В задаче № 2 (рис. 45) неважно, какого цвета фигура (черная или белая), где она находится в ячейке и какой она формы (круг, треугольник и др.). Важен только ее размер. Конечно, размер важен не всегда: в остальных задачах с рис. 45 размер не имеет значения. Как мы, люди, так быстро определяем значимые признаки? Как научить этому машину?