Скорость мысли. Грандиозное путешествие сквозь мозг за 2,1 секунды

Оказывается, связи между ними слабы и подвержены синаптическим сбоям. Так же, как и в коре головного мозга, каждый импульс, отправленный от одного нейрона superior colliculus к одному входу нейрона ОСВ, создает лишь крошечный скачок напряжения в последнем. Поэтому потребуются десятки или сотни таких входящих импульсов, чтобы нейрон ОСВ отправил один исходящий. Каждое синаптическое соединение слабое. И каждое выдает отказ. В среднем около 20 % всех импульсов, приходящих из двухолмия, не производят никакого эффекта на ОСВ.

Слабое, подверженное ошибкам соединение означает, что двухолмию необходимо послать много сигналов одновременно, чтобы инициировать ответ ОСВ. Синаптические отказы – это порог. Легкие тени, каждая из которых вызывала лишь небольшую активность двухолмия, не создавали достаточной плотности сигнала, чтобы преодолеть порог слабой связи с ОСВ. Но страшные темные тени вызывали волну интенсивной активности, преодолевали слабые соединения и инициировали команду «беги».

Из этого исследования можно извлечь два особенно красивых урока для тех, кто изучает мозг. Во-первых, сложное поведение млекопитающего – побег в убежище – теперь прослеживается до единственного соединения в мозгу и свойств этого конкретного соединения. И это соединение имеет свойство порогового барьера; его слабость и ненадежность устанавливают порог – предел возбуждения, который необходимо преодолеть.

Во-вторых, эволюция использовала синаптические сбои для создания порога между решением бежать и отказом от него. Как способ отфильтровать события, которые не представляют угрозы, чтобы вам не приходилось срываться с места при каждом внезапном звуке или от каждой надвигающейся тени. И знаете что? Если вы действительно убегаете при каждом внезапном шуме или от каждой надвигающейся тени, это может означать, что связи между superior colliculus и околоводопроводным серым веществом в вашем мозгу недостаточно ненадежные – ваш мозг слишком совершенен.

Неудача: чтобы решать проблемы

Я думаю, эволюция использовала синаптические сбои для гораздо большего количества функций, чем просто установление порога между спокойствием и паникой. На мой взгляд, синаптический сбой – это намеренно создаваемые помехи в работе мозга. Преднамеренный шум. Эволюционно обусловленный шум. И дальше я собираюсь развить предположение о том, что эти помехи имеют решающее значение для работы алгоритмов мозга по обучению и поиску.

Мы знаем как минимум две веские причины, почему помехи полезны, на примере искусственного мозга, искусственного интеллекта. Первая причина – то, что вы уже прочитали выше. Вторая – поиск наилучшего решения проблемы.

Ваш мозг отлично справляется с созданием общих принципов на основе примеров. Таких как общие концепции автомобилей, автобусов и горилл. Увидев несколько горилл, ваш мозг может распознать гориллу даже с таких сторон, с которых вы ее никогда не видели. Умение обобщать может спасти вас от гибели в лапах хищника.

Искусственные нейронные сети не так хороши в обобщении. Программист может обучить одну из своих нейронных сетей на десятках тысяч изображений, чтобы она научилась классифицировать их: «автомобили», «гориллы», «горящие холодильники». Но глубокие нейронные сети состоят из множества слоев, объединяющих тысячи простых нейроноподобных единиц. То есть у них есть миллионы, десятки миллионов соединений между этими устройствами, и силу каждого соединения можно регулировать. Наличие гораздо большего числа настраиваемых подключений, чем изображений, означает, что искусственные сети до ужаса склонны к переобучению – чрезмерной подгонке модели для классификации [136]; они изучают мельчайшие детали каждого изображения, точно настраиваются на нюансы. То есть они не поняли, что общего между всеми автомобилями, гориллами или пылающими холодильниками. Они, скорее всего, провалят экзамен на обобщение. Протестируйте обученную сеть на новых изображениях уже изученных категорий – горилла, но вид сверху; холодильник, от которого остались только головешки, – и нейросеть не сможет поместить их в правильные категории. Даже изменение нескольких пикселей уже изученного изображения может привести к сбою.

Широко используемое решение – метод DropConnect [137]. Объяснение уже в названии: для каждого нового изображения, представленного во время обучения, группа соединений в сети случайным образом отбрасывается, ее коэффициенты обнуляются, и только оставшиеся связи обновляются при успешной или неудачной классификации этого изображения. Повторение этой операции для каждого изображения, по сути, означает, что каждое изображение показывается уникальной версии сети, что не позволяет всей сети целиком настраиваться на детали каждого конкретного изображения. И когда эта сеть затем тестируется на изображениях, которые до этого не видела, она лучше справляется с их правильной категоризацией. Разрыв соединений наугад добавляет к сети помеху, шум, который позволяет ей обобщать.