Мозг: биография. Извилистый путь к пониманию того, как работает наш разум, где хранится память и формируются мысли

Потенциальное понимание того, как улучшить искусственный интеллект, появляется благодаря наблюдению, что животные могут учиться удивительно быстро, иногда на основе одного примера, в то время как программы обычно требуют расширенного обучения и длительных тренировочных курсов [48]. Животные могут совершать такие подвиги, потому что их нервная система эволюционировала, чтобы реагировать на определенные стимулы. Благодаря кантовским сенсорным a priori мозг заранее подготовлен к созданию одних связей, а не других. Например, крыса, которая почувствует себя больной после употребления новой пищи, научится на этом единственном примере избегать ее впоследствии[269]. Такого не происходит, если вы бьете крысу током или ассоциируете чувство тошноты с новым звуком. А priori, по-видимому, включает только связь между вкусом и болезнью по довольно очевидным эволюционным причинам. Встроив такие «древние» паттерны в искусственные нейронные сети, возможно, удастся повысить их эффективность.

Несмотря на приведенные примеры, в целом удивительные современные компьютерные программы не дают четких биологических гипотез и в результате почти не объясняют того, как работает реальный мозг. Отчасти проблема использования нейросетей в качестве ориентиров для биологических исследований заключается в том, что не ясно, как именно программы выводят результаты. Это не только является загадкой для таких людей, как я, но и ставит в тупик самих исследователей. Так было всегда: в 1987 году авторы NetTalk признали, что, хотя были в состоянии понять «функцию некоторых скрытых единиц, было невозможно идентифицировать единицы в разных сетях, которые имели ту же функцию». А сегодняшние программы гораздо сложнее, и их еще труднее подвергнуть деконструкции [49].

Современные компьютерные программы не дают четких биологических гипотез и в результате почти не объясняют того, как работает реальный мозг.

В декабре 2017 года исследователь ИИ из Google, Али Рахими, назвал машинное обучение «алхимией», потому что неясно, что на самом деле делают алгоритмы [50]. Другой исследователь зашел так далеко, что заявил, что область нейронаук была «охвачена практиками карго-культа[270]» и опиралась на «фольклор и магические заклинания». В 2019 году в интервью журналу Wired о нейронных сетях Джеффри Хинтон бодро признал, что ученые «действительно не знают, как они работают» [51]. Это должно быть предупреждением для любого нейробиолога, который ищет в нейронных сетях теоретическое объяснение того, как функционирует мозг. Многие ученые в сфере IT понимают, что им тоже не хватает теории для объяснения таких сложных систем.

* * *

Несмотря на прорыв, представленный подходом PDP, некоторые критики вскоре задались вопросом, насколько полезным он будет для понимания биологических проблем. В 1989 году Крик написал четырехстраничную статью в Nature, как обычно, со звучным названием: «Недавнее волнение по поводу нейронных сетей» [52]. В 1977 году Крик перебрался в Институт биологических исследований Солка в Калифорнии, чтобы работать в области нейробиологии, где стал членом исследовательской группы PDP. Но вскоре его начало раздражать то, что он считал фундаментальными биологическими недостатками этих программ, в частности отсутствие анатомической и физиологической точности. Особенно злила его зависимость от бэкпропа. «Кажется очень маловероятным, что это действительно происходит в мозге», – писал он[271] [53].

Критика Крика была направлена на нечто большее, чем просто биологическую неточность. После весьма язвительного замечания о характере мотивации некоторых исследователей (он предположил, что «где-то в глубинах большинства моделистских душ разочарованный математик пытается расправить крылья» и что целью их было придать «вид интеллектуальной респектабельности в остальном низкопробному предприятию») Крик подчеркнул разрыв между информатикой и биологией:

«Построение работающей машины (например, высокопараллельного компьютера) – это инженерная задача. Инженерия часто основана на науке, но у нее иная цель. Успешный инженерный проект – это машина, которая делает что-то полезное. С другой стороны, понимание мозга – это научная проблема. Мозг дан нам как продукт долгой эволюции. Мы хотим знать не как он может работать, а как на самом деле работает» [54].