Новые темные века

В этой истории вышло так, что военные США в ходе эксперимента совершили ужасную ошибку: все фотографии с танками были сделаны утром, под чистым голубым небом. А на фотографиях, которые сделали во второй половине дня уже без танков, небо затянулось тучами. Исследователи поняли, что машина работала безупречно, только различать она научилась не наличие или отсутствие танков, а погоду.

Эта поучительная история, которую любят приводить в пример в литературе по машинному обучению(1), вероятно, апокрифическая, хотя наглядно показывает важную проблему, возникающую при работе с интеллектом и машинным обучением – мы понятия не имеем о том, что знает машина. История с танками иллюстрирует фундаментальное и все более значимое осознание, что, каким бы ни стал искусственный интеллект, он будет разительно отличаться от наших о нем представлений, а в конечном итоге окажется и вовсе непостижимым. Несмотря на сложнейшие системы вычисления и визуализации, мы ни на шаг не приблизились к пониманию того, как происходит машинное обучение, и нам остается только судить по результатам.

Первую нейронную сеть, с которой, вероятно, и началась история о танках, разработали для Управления военно-морских исследований США. Сеть, которую назвали перцептроном, была реализована, как и многие ранние компьютеры, в виде физического объекта, электронной машины с набором из 400 светочувствительных клеток, случайным образом подсоединенных переплетением проводов к переключателям-нейронам, которые при каждом прогоне меняли свою реакцию. Разработчик первой нейросети, психолог из Корнелла Фрэнк Розенблатт, активно выступал за развитие искусственного интеллекта. Когда в 1958 году публике представили первый нейрокомпьютер, перцептрон «Mark I», New York Times сообщила:

Военно-морской флот впервые показал сегодня образец будущего электронного компьютера, который, как ожидают создатели, сможет ходить, говорить, видеть, писать, воспроизводить себя и осознавать свое существование. Предполагается, что позднее перцептроны смогут узнавать людей, называть их имена и мгновенно переводить речь и письмо с одного языка на другой(2).

Перцептрон основан на принципе коннекционизма, согласно которому интеллект – это свойство, возникающее из-за связанности нейронов. Из этой идеи следует, что, искусственно создав подобие сложных связей в мозге, можно научить машину думать. В последующее десятилетие коннекционизм подвергался существенной критике со стороны символистов. Многочисленные исследователи видели в интеллекте продукт манипулирования символами, из чего следовало, что для осмысленных рассуждений необходимо некоторое знание мира. Дебаты между коннекционистами и символистами определили ход исследований в области искусственного интеллекта на следующие сорок лет, затормозили его развитие и привели к пресловутым «зимам искусственного интеллекта» – долгим периодам застоя, когда не хватало ни финансирования исследований, ни интереса к проблематике. По сути, между сторонами шел спор не столько о природе интеллекта, сколько о возможности его понять.

Одним из наиболее неожиданных сторонников раннего коннекционизма был Фридрих Хайек, наиболее известный сегодня как отец неолиберализма. Забытый на долгие годы, но недавно вновь набравший популярность среди австрийских нейробиологов, Хайек в 1952 году написал трактат «Сенсорный порядок: исследование основ теоретической психологии», в котором развил идеи, сформулированные им еще в 1920-х годах. Основная мысль Хайека заключается в том, что существует фундаментальное разделение между чувственным миром ума и реальностью, то есть «естественным» внешним миром. Поскольку чувственный мир ума каждого человека непостижим и уникален, задача науки, в том числе экономики, заключается в том, чтобы построить такую модель мира, при которой не нужно учитывать особенности отдельных людей.

Нетрудно увидеть параллель между идеей Хайека о неолиберальном миропорядке, когда беспристрастный и бесстрастный рынок действует независимо от человеческих предубеждений, и его приверженностью к коннекционистской модели мозга. Как отметили более поздние комментаторы, в модели сознания Хайека «знание рассредоточено и распределяется в коре головного мозга подобно знаниям людей на рынке»(3). Приведенный аргумент в пользу коннекционизма является индивидуалистическим, неолиберальным и напрямую перекликается со знаменитым утверждением из книги «Дорога к рабству» (1944) о том, что все формы коллективизма неумолимо ведут к тоталитаризму.

Сегодня коннекционистская модель искусственного интеллекта снова доминирует, и ее главные сторонники, подобно Хайеку, считают, что в мире существует естественный порядок, который возникает спонтанно, когда из производства знания исключена человеческая предвзятость. И снова мы видим, как коннекционисты повторяют аргументы своих единомышленников из 1950-х годов, хотя на этот раз их утверждения касаются не только нейронных сетей и находят более широкое применение в мире.