Машина эмоций

Однако аргументы, приведенные в этой книге, показывают, что нам вовсе не нужны подобные магические трюки, потому что к любой задаче у нас есть несколько подходов. Кроме того, имеет смысл предположить, что многие части нашего мозга развивались как противовесы для исправления (или подавления) влияния дефектов в других частях. Это означает, что нашим ученым будет трудно обнаружить, как человеческому мозгу удается так успешно функционировать и почему он развивался так, а не иначе. Я подозреваю, что мы не поймем этого, пока не накопим побольше опыта в создании таких систем. Только тогда мы достаточно узнаем о том, с какими сбоями, вероятнее всего, столкнемся и как держать их под контролем.

В ближайшие десятилетия многие исследователи попытаются создать более гибкие и находчивые машины, но каждая система, которую мы построим, будет удивлять нас новыми недостатками – пока эти машины не станут достаточно умными, чтобы скрывать свои недостатки от нас. Время от времени мы сможем предсказывать конкретные ошибки в этих проектах, и тогда у нас получится их исправлять. Но всякий раз, когда нам это не удастся, останется только добавлять больше сдержек и противовесов, например новых критиков и цензоров. Ибо мы никогда не найдем единого надежного способа выбирать (например) между преимуществами немедленных действий и преимуществами осторожного, рефлексивного мышления. Итак, что бы мы ни делали, можно не сомневаться, что путь к «постчеловеческому разуму» будет тернист.

Благодарности

В этой книге изложено несколько новых теорий психической деятельности человека. В некотором роде ее можно назвать продолжением моей предыдущей книги «Общество разума», которая предлагала рассмотреть работу мышления как совокупности относительно самостоятельных процессов. «Машина эмоций» же, напротив, в основном рассказывает о наших самых высокоуровневых и рефлексивных мыслях, так что между предметами двух этих книг не так уж много пересечений. Чтобы понять любой сложный феномен, необходимо взглянуть на него с нескольких точек зрения – и эта книга пытается описать разум так, как если бы его можно было увидеть «изнутри», – а также предлагает методы, которые могут быть полезны при разработке «думающих» машин.

Большинство из этих теорий родились главным образом у меня, но многие связанные с ними идеи появлялись уже в ранних работах таких исследователей, как Сеймур Пейперт, Аарон Слоуман, Дэниел Деннет, а также в работах моих студентов. В частности, в течение предыдущего десятилетия моим самым частым соавтором был один из них, покойный Пуш Сингх.

В течение раннего периода работы я находился под сильным влиянием таких колоссальных умов, как Пейперт, Джон Маккарти, Уоррен Мак-Каллох, Мануэль Блюм, Рэй Соломонофф, Клод Шеннон, Оливер Селфридж, Аллен Ньюэлл, Герберт Саймон, Роджер Шэнк, Дуглас Ленат, Эдвард Фредкин и Кеннет Хаасе. Кроме того, за двадцать лет, что потребовались для создания этой книги, множеством идей со мной поделилась моя жена, дипломированный врач Глория Рудиш.

Некоторые из описанных мною процессов уже успешно применялись в компьютерных программах, разработанных Майклом Трэверсом, Робертом Хирном, Николасом Кассиматисом и Пушем Сингхом. Однако для большинства теорий, изложенных здесь, масштабной функционирующей системы еще не создавалось, и я надеюсь, что данная книга вдохновит будущих исследователей взять на себя именно такую задачу.

Многие из этих концепций также родились из обсуждений в новостных группах сети Интернет – особенно из бесед с Крисом Малкольмом, Гэри Форбисом, Ричардом Лонгом, Марком Розенфельдером, Нилом Рикертом и многими другими. Я также хотел бы отметить дискуссии с такими коллегами, как Алан Кей, Карл Саган, Дэнни Хиллис, Эдвард Фейгенбаум, Джеральд Сассман, Грациелла Тонфони, Ханс Моравец, Джером Леттвин, Джоэл Моузес, Джон Нэш, Николас Негропонте, Нильс Нильссон, Патрик Ганкел, Патрик Уинстон, Ричард Докинз, Ричард Фейнман, Рассел Кёрш, Стивен Пинкер, Вудро Бледсоу и многие другие, всех даже не упомнить.

Кроме того, эту книгу сделали лучше Барбара Барри, Синтия Соломон, Дэвид Ярмуш, Дин С. Эдмондс, Эрай Озкурал, Ллойд Шэпли, Мортимер Кэссон, Рэй Курцвейл и Рассел Кёрш – а также мои мудрые друзья-писатели Артур Ч. Кларк, Дэвид Брин, Фредерик Пол, Грег Иган, Грегори Бенфорд, Гарри Харрисон, Айзек Азимов, Джеймс П. Хоган, Джерри Пурнелл, Ларри Нивен, Роберт Хайнлайн и Вернор Виндж.