Власть роботов. Как подготовиться к неизбежному

Как мы узнали, два основных метода обучения глубоких систем — это контролируемое обучение, требующее большого количества размеченных данных, и обучение с подкреплением, предполагающее огромное число повторений, в процессе которых алгоритм пытается справиться с задачей. Хотя люди тоже пользуются этими методами, они составляют лишь крохотную долю процесса обучения, происходящего в мозге маленького ребенка. Малыши обучаются через простое наблюдение, слушая голоса родителей, а также непосредственно взаимодействуя и экспериментируя с окружающим миром.

У новорожденных этот процесс начинается почти сразу, они получают знания непосредственно из окружения задолго до того, как обретают физическую способность сколько-нибудь осознанно взаимодействовать с ним. Они каким-то образом формируют физическую модель мира и начинают создавать базу знаний — фундамент здравого смысла. Процесс непосредственного получения знаний без опоры на структурированные и размеченные данные называется неконтролируемым обучением. Это поразительное умение, возможно, обусловлено определенной когнитивной структурой, встроенной в мозг ребенка. Бесспорно одно: способность ребенка учиться самостоятельно, в частности осваивать речь, несоизмеримо превосходит все, чего можно достичь с помощью самых мощных систем глубокого обучения.

Неконтролируемое обучение в начале жизни в дальнейшем становится основой более сложных методов получения знаний. Даже если обучение ребенка постарше до некоторой степени контролируется, необходимые учебные данные составляют крохотную долю информации, которую нужно предоставить даже самым совершенным алгоритмам. Глубокой нейронной сети могут требоваться многие тысячи маркированных фотографий, прежде чем она сможет надежно связывать названия животных с их изображениями. В отличие от этого ребенку зачастую достаточно, чтобы родитель один раз указал на животное и сказал: «Это собака». А если ребенок узнает животное, то он, скорее всего, делает это в любом варианте, независимо от того, сидит собака, стоит или бежит по дороге.

Неконтролируемое обучение в настоящее время является одной из самых актуальных тем в области искусственного интеллекта. Google, Facebook и DeepMind создали команды, занимающиеся этой задачей. Однако достижений здесь немного, и до сих пор не появилось заметного числа практически значимых приложений, если не сказать, что ни одного. Факт остается фактом: никто на самом деле не понимает, как человеческий мозг достигает беспрецедентной компетенции в самостоятельном обучении на неструктурированных данных. Сегодняшние исследования по большей части посвящены менее амбициозным целям в области неконтролируемого обучения. Это, в частности, прогностическое или самостоятельное обучение. Для примера можно привести проекты, в которых ставится цель предсказать следующее слово в предложении или изображение в следующем кадре видео. Казалось бы, эти задачи очень далеки от способностей человека, но многие исследователи убеждены, что способность делать прогнозы — обязательный элемент интеллекта и что подобные эксперименты позволят продвинуться в нужном направлении. Трудно переоценить значимость подлинного прорыва в неконтролируемом машинном обучении. Например, по мнению Яна Лекуна, это может открыть дорогу к прогрессу практически во всех других составляющих универсального интеллекта. Вот его слова: «Пока мы не поймем, как это сделать… нам не добиться существенного прогресса, поскольку, на мой взгляд, это ключ к обретению того базового знания о мире, которое достаточно для появления здравого смысла. Это главное препятствие»[194].

Понимание причинно-следственной связи

Студентам, изучающим статистику, часто напоминают, что «корреляция — это не причинно-следственная связь». Для искусственного интеллекта и особенно систем глубокого обучения понимание заканчивается на корреляции. Джуда Перл, известный ученый-компьютерщик из Калифорнийского университета в Лос-Анджелесе, за последние 30 лет совершил переворот в исследовании причинности и создал формальный научный язык для описания причинно-следственных взаимосвязей. Перл, получивший премию Тьюринга в 2011 году, часто подчеркивает, что если любой человек интуитивно понимает, что восход солнца заставляет петуха кукарекать, а не наоборот, то для самой мощной глубокой нейронной сети это, скорее всего, недоступно. Причинность невозможно выявить, просто анализируя данные[195].

Люди наделены уникальной способностью не только замечать корреляцию, но и понимать причинность, причем на основании поразительно малого числа примеров. Джошуа Тененбаум, профессор вычислительной когнитивистики из МТИ, описывает предмет своих исследований как «обратное проектирование на основе человеческого разума» и надеется, что открытия на этом пути пригодятся при создании более умных ИИ-систем. Вот что он отмечает.