Машина эмоций

Эволюционист:Раз мы не знаем, как сконструировать более совершенную машину-младенца, возможно, нам удастся заставить ее развиваться самостоятельно. Сначала можно написать программу, которая пишет другие программы, а затем вносит в них различные виды мутаций – и заставляет эти программы конкурировать за выживание в условиях, напоминающих реальные.

Нам потребовались сотни миллионов лет, чтобы эволюционировать от самых ранних позвоночных рыб, и вся эта вечность ушла на развитие структур, которые превратились в высокие уровни рефлексии, описанные в главе пятой. В следующих главах будут изложены аргументы в пользу того, что каждый ребенок активно использует эти высокоуровневые структуры при развитии уникальных человеческих методов репрезентации новых знаний и процессов. Мне кажется очевидным, что именно поэтому попытки создать «машину-ребенка» потерпели неудачу: нельзя научиться тому, что вы не можете репрезентировать.

Если вы хотите научить машину понимать абстракцию, скорее всего, машина должна быть способна репрезентировать эту абстракцию некоторым относительно простым способом.

Джон Маккарти, 1959

Я не пытаюсь отрицать все перспективы создания машины-младенца, но у меня есть подозрения, что любая система подобного рода будет развиваться слишком медленно, если только (или пока) ее не снабдят надлежащими методами репрезентации знаний; мы поговорим об этом в главе восьмой. В любом случае кажется довольно очевидным, что человеческий мозг с рождения оснащен весьма развитыми методами научения (некоторые из них начинают действовать лишь спустя значительный период времени после рождения). Исследователи, которые пытались создавать такие машины, использовали немало гениальных схем, но, как мне кажется, все они зашли в тупик потому, что у них не было способа преодолеть одну или более из перечисленных ниже проблем:

Парадокс оптимизации.Чем лучше система работает сейчас, тем более вероятно, что любое изменение ухудшит ситуацию, – поэтому ей становится все труднее отыскивать новые способы совершенствования.

Принцип привычки.Чем лучше работает некий процесс, тем больше мы будем полагаться на него и тем менее будем склонны разрабатывать новые альтернативы – особенно если новый метод не принесет хороших результатов, пока с ним не освоишься.

Барьер сложности.Чем больше взаимодействуют части системы, тем более вероятно, что каждое изменение будет вызывать неожиданные побочные эффекты.

Эволюция часто описывается как процесс выбора полезных изменений, но по большей части эволюция заключается в отказе от изменений, имеющих негативные последствия! Именно поэтому большинство видов в процессе эволюции занимает узкие специализированные ниши, границы которых кишат всевозможными опасностями и ловушками. Мы слишком редко говорим о том, что, хотя генетическая эволюция может «учиться» избегать наиболее распространенных ошибок, она практически неспособна заучить большое количество очень необычных ошибок. И действительно, лишь немногие «высшие животные» сумели избежать этого, развив сходные с языковыми системы, посредством которых они могут сообщать своему потомству о событиях, произошедших с родственниками их предков.

Все это говорит о том, что машине будет сложно продолжать развиваться, если только она не выработает способа защиты от изменений, вызывающих отрицательные побочные эффекты. Отличным методом достижения этой цели, как в области инженерии, так и в биологии, стало разделение всей системы на части, способные к более независимому развитию. Именно поэтому все живые существа превратились в собрание отдельных частей (которые мы называем органами), каждая из которых имеет сравнительно небольшое количество связей с другими частями.

Неструктурированная система

«Орган-изованная» система