Воспитание машин. Новая история разума

Возникает извечный вопрос: как соотносятся между собой причинно-следственные связи и целесообразное поведение, то есть физическое и психическое? С одной стороны, если любое движение мысли определяется механизмами работы мозга, то как можно говорить о свободе воли? С другой стороны, только язык психологии способен хоть как-то объяснять ход наших мыслей и мотивы наших поступков. Конечно, детерминизм и телеология не противоречат друг другу. Это два способа понимания мира – на языке траекторий динамических систем или их аттракторов. Однако детерминистское описание сложной системы (физика мозга) ничего не говорит нам о ее целях, а знание целей – об алгоритмах их достижения.

Теория машинного обучения обеспечивает недостающую связь между принципами причинности и целеполагания за счет изменения постановки задачи. Физика рассматривает систему как данность и спрашивает, как эта система работает. Машинное обучение, напротив, интересуется, как создать систему, обладающую заданными свойствами. Внимание исследователей здесь фокусируется не на «морфологии», а на «эмбриологии» сложных систем.

Соответственно машинное обучение интересуют не столько «быстрые» алгоритмы работы уже готовой системы, сколько «медленные» алгоритмы ее самосборки, постепенного увеличения сложности системы при ее взаимодействии с миром. И эти последние (алгоритмы обучения) формулируются как раз в терминах оптимального управления, то есть достижения системой каких-то целей.

Таким образом, в машинном обучении цели встраиваются во вполне детерминистские алгоритмы обучения. Понимая, какие из них породили данную сложную систему, мы будем знать цели, которые она преследует. Алгоритмы обучения, как правило, гораздо проще результата обучения и позволяют нам не только создать сложную систему, но и «понять» ее, то есть объяснить, почему ее устройство нацелено на достижение определенных целей, примиряя тем самым причинно-следственное и телеологическое описание системы, притом что распутывание запредельно сложной сети причинно-следственных связей в уже сформировавшейся системе никак не продвигает нас в понимании логики ее работы.

Машинное обучение меняет наше понимание машины как устройства, исполняющего заложенные в него готовые алгоритмы. Алгоритмы обучения, даже относительно простые, способны в процессе взаимодействия со средой порождать сколь угодно сложные алгоритмы целенаправленного (то есть разумного) поведения, способного адаптироваться к произвольно меняющимся внешним обстоятельствам и изменять мир в соответствии со своими целями. Машины, оказывается, способны в процессе обучения ставить себе промежуточные цели и находить пути их достижения, преодолевая различные препятствия и вырабатывая собственные ценности, то есть нормы поведения, помогающие достигать поставленных целей. Это новое понимание машины, привнесенное теорией машинного обучения, открывает широкие перспективы в изучении разума во всех его проявлениях.

Итак, машинное обучение предлагает нам следующую программу исследования и создания сложных самообучающихся систем: выявление или разработка алгоритмов их обучения (причинно-следственное описание) как решение задач оптимизации (достижения целей) путем увеличения сложности системы (накопления знаний).

Последний момент особенно важен: простые алгоритмы обучения способны порождать сколь угодно сложное поведение. Физика, в которой отсутствует понятие обучения, не способна объяснить появление таких сложных систем, как, скажем, жизнь или разум. Для этого нам приходится обращаться к машинному обучению. Соответственно устройство и принципы работы такой сложной системы, как мозг, тоже можно понять только в свете теории обучения, когда мозг рассматривается не как готовый механизм, но как результат длительного процесса обучения. Это нацеливает нас на выявление в мозге механизмов, реализующих алгоритмы его обучения.

Именно на это, к слову, нацелена теория функциональных систем П. К. Анохина, предлагающая, по существу, алгоритм обучения с подкреплением как системообразующий принцип организации мозга[87]. Именно такие алгоритмы наиболее актуальны в современном машинном обучении, связанном с роботами, агентами и сильным ИИ.

Машинное обучение предлагает нам практический путь к пониманию мозга и разума, основанный на принципе «понять – значит воссоздать». Мы никогда не поймем наше мышление, если не сможем воссоздать его в виде искусственной психики роботов. Искусственный интеллект – это новый экспериментальный полигон для наук о разуме, гораздо более удобный и прозрачный, чем традиционные опыты на животных и людях. На этом полигоне можно гораздо быстрее отлаживать и развивать наши модели мышления.