Воспитание машин. Новая история разума

Существующие глубокие нейросети можно рассматривать как подсистемы искусственной психики, которые можно обучить решению множества самых разных задач, но только по одной, а не всех сразу. Если обученную нейросеть начать обучать новой задаче, она будет забывать старые навыки, поскольку разные задачи решаются разными наборами одних и тех же настроечных параметров нейросети. Это известная проблема «катастрофического забывания» в нейросетях, отличающая слабый интеллект от сильного. Настоящий интеллект должен уметь накапливать знания и приобретать новые навыки, не забывая старые. А для этого нужно объединить множество нейросетей в единую искусственную психику со своей архитектурой, определяющей роли и взаимодействие своих подсистем.

Наделение интеллекта психикой связано еще и с тем, что, как выяснилось в ходе упомянутой выше дискуссии, большинство ведущих специалистов в области ИИ согласны с мнением, что родовым свойством интеллекта является способность к самостоятельному решению как можно более широкого круга задач. Сформулировать идею можно по-разному. Интеллект – это[80]:

● способность порождать новые алгоритмы для сколь угодно широкого круга задач;

● умение добиваться своих целей в постоянно меняющихся условиях внешней среды;

● способность решать неограниченный круг задач при ограниченных ресурсах;

● способность к целенаправленному адаптивному поведению, и т. д.

Все эти определения тесно связаны между собой, подчеркивая разные стороны одного и того же свойства интеллекта: его субъектность, самостоятельность и креативность в рамках так называемого агентского подхода[81].

При этом большинство исследователей ограничивают интеллект рамками индивидуальной психики агента. Мы, однако, считаем, что индивидуальное мышление, по крайней мере в случае человека, невозможно объяснить вне рамок коллективного мышления человечества. Человеческий разум – это не продукт индивидуального мышления, а результат развития человеческой культуры. Усложнение нашего разума есть результат постоянного углубления системы общественного разделения труда, в результате чего интеллект человека, воспитанного людьми, качественно отличается от интеллекта Маугли, воспитанного волками, при одинаковом устройстве мозга. Таким образом, связь между мозгом и разумом опосредована процессом воспитания.

Соответственно, далее мы будем придерживаться следующих определений:

● интеллект – это алгоритм обучения целенаправленному поведению агента;

● разум – это алгоритм обучения целесообразному коллективному поведению агентов.

Тем самым мы различаем индивидуальный интеллект и коллективный разум. Оба представляют собой обучающиеся адаптивные системы, но их целевые функции и алгоритмы обучения разные.

Заметим также, что от разумных агентов мы ожидаем постоянного накопления опыта в процессе обучения. Именно способностью к обучению решению все новых задач, то есть к усложнению своего поведения, разумные агенты отличаются от простых адаптивных физических систем с обратными связями типа, например, термостата. Даже сколь угодно сложные экспертные системы не обладают интеллектом в нашем понимании, если в них не заложена способность к обучению, – они являются лишь очень продвинутой формой справочника.

Этим определениям, однако, не хватает одного важного свойства – количественного измерения уровня интеллекта. Понятно ведь, что уровни интеллекта человека и шимпанзе существенно различаются, да и люди, как известно, обладают разными IQ. В этой связи очень интересно решение, предложенное Франсуа Шолле из Google, создателем известной библиотеки Keras. Интеллект он определяет как способность к эффективному обучению и предлагает измерять его как КПД конверсии получаемой из внешней среды информации в знания о том, как достигать своих целей[82]. В наших обозначениях:

где: ∆C – приращение знаний, повышающих адаптацию агента в изменившихся условиях, то есть усложнение алгоритма его поведения с учетом вновь полученной информации;

∆I – новая информация, не содержащаяся в предыдущей истории взаимодействия со средой.

Выше мы уже отмечали, что современным алгоритмам глубокого обучения как раз не хватает такой эффективности. По этой причине они до сих пор и не могут выйти из виртуальных миров, где можно ошибаться миллионы раз, в реальный мир, где каждая ошибка может стать последней.

В дополнение к формальному определению меры интеллекта Ф. Шолле предложил набор задач «Abstraction and Reasoning Corpus» для тестирования машинного интеллекта, по форме напоминающий классические тесты на IQ (например, дополнить по трем картинкам четвертую). Таким образом проверяется способность агента использовать минимальное число обучающих примеров для понимания сути новой задачи и нахождения ее решения. Неудивительно, что современные глубокие нейросети, жадные до данных, пока не способны пройти этот тест.