Процесс научения предполагает формирование иерархии репрезентаций, соответствующих характеру поставленной задачи. В искусственной нейросети GoogLeNet, которая учится классифицировать изображения, настройка миллионов параметров позволяет каждому уровню иерархии распознавать некий важный аспект реальности. Так, искусственные нейроны самого низкого уровня реагируют на элементарные признаки, например наклонные линии или текстуры. Нейроны более высоких уровней распознают сложные формы, например лошадей, глаза или насекомых.
Иллюстрация 3
Как глубокая нейросеть учится распознавать рукописные цифры? Это сложная задача: любую цифру можно написать по-разному. На низшем уровне иерархии (внизу справа) искусственные нейроны путают цифры, которые выглядят похоже, например 9 и 4. Чем выше уровень иерархии, тем успешнее нейроны распознают и группируют вместе разные варианты написания одной и той же цифры.
Иллюстрация 4
Научение предполагает вывод общих правил и законов, действующих в той или иной сфере. Два программиста из Массачусетского технологического института изобрели алгоритм, способный обнаруживать скрытую структуру научных знаний. Система наделена сводом правил, комбинации которых генерируют самые разнообразные структуры: линии, плоскости, круги, цилиндры. Выбирая структуру, наилучшим образом отвечающую данным, алгоритм совершает открытия, на которые у ученых ушли годы: филогенетическое дерево животного мира (Дарвин, 1859), шарообразность Земли (Парменид, 600 г. до н. э.), цветовой круг (Ньютон, 1675).
Иллюстрация 5
Мозг младенца отнюдь не «чистый лист»: напротив, он содержит обширный набор базовых знаний и допущений об окружающей среде. В лабораторных условиях ученые изучают присущие младенцам интуитивные представления о мире, наблюдая за их реакцией на ситуации, нарушающие законы физики, арифметики, вероятности или геометрии.
Иллюстрация 6
С самого рождения мозг младенца перенаправляет устную речь в левое полушарие. Как показывает фМРТ, в мозге младенцев, слушающих предложения на родном языке, активны те же отделы, что и у взрослых. Активность возникает в первичной слуховой области, после чего постепенно распространяется на височную и лобную доли, в том же порядке, что и у любого взрослого человека. Эти данные опровергают теорию об изначально дезорганизованном мозге, «чистом листе», который приобретает свое содержание исключительно под влиянием окружающей среды.
Иллюстрация 7
Архитектура человеческого мозга имеет долгую эволюционную историю. Базовое строение многих специализированных участков (в частности, первичных сенсорных областей, представленных на рисунке) одинаково у человека и других видов животных. Они закладываются в период внутриутробного развития под влиянием многочисленных генов и активны уже во время третьего триместра беременности. Мозг приматов характеризуется сравнительно небольшими сенсорными областями, с одной стороны, а с другой – выраженной экспансией когнитивных зон теменной (показана серым), височной и особенно префронтальной коры. У Homo sapiens эти области невероятно пластичны: они отвечают за язык мышления и позволяют нам приобретать новые знания на протяжении всей жизни.
Иллюстрация 8
В первые недели беременности тело самоорганизуется под влиянием генов. Формирование пяти пальцев и их иннервация не требуют научения. Аналогичным образом закладывается фундаментальная архитектура головного мозга. При рождении кора уже организована; развиты складки и связи, присущие всем людям и отличающие нас от других приматов. Точная структура синаптических связей, однако, может варьировать в зависимости от окружающей среды. К третьему триместру беременности мозг плода начинает адаптироваться к информации, поступающей из внешнего мира.
Иллюстрация 9
Кора головного мозга человека подразделяется на несколько специализированных отделов. Еще в 1909 году немецкий невролог Корбиниан Бродман заметил, что с точки зрения размера и распределения нейронов кора неоднородна. Так, в зоне Брока, отвечающей за обработку речи, Бродман выделил три области (44, 45 и 47). Позже их существование было подтверждено с помощью методов молекулярной визуализации. На границах отделов наблюдаются скачкообразные вариации в плотности рецепторов нейтросмиттеров. В период внутриутробного развития определенные гены избирательно экспрессируются в разных участках коры и содействуют ее подразделению на специализированные зоны.
Иллюстрация 10