Машина эмоций

Г. Ф. Лавкрафт:Величайшее милосердие нашего мира, на мой взгляд, заключается в том, что человеческий разум не способен охватить и связать воедино все, что он в себя включает. Мы обитаем на спокойном островке невежества посреди темного моря бескрайних знаний, и вовсе не следует плавать на далекие расстояния. Науки, каждая из которых уводит в своем направлении, пока что причиняют нам не очень много вреда; но однажды объединение разрозненных доселе обрывков знания откроет перед нами такой ужасающий вид на реальную действительность, что мы либо потеряем рассудок от этого откровения, либо постараемся укрыться от губительного просветления под покровом новых Темных веков[154].

Ментальные баги и паразиты

Думаю, не ошибусь, если предскажу, что в будущих попытках создать крупномасштабные и способные к развитию машины с искусственным интеллектом те столкнутся со всеми видами психических заболеваний. Ведь если бы разум мог менять принципы своей работы, он бы подвергся опасности самоуничтожения. Быть может, это одна из причин того, что наш мозг разработал в процессе эволюции так много частично отделенных друг от друга систем, вместо того чтобы выстроить более объединенную и централизованную: возможно, существовали серьезные основания ограничить то, в какой степени разум может исследовать сам себя!

Например, ни одному отдельному способу думать нельзя слишком полно контролировать системы, которые мы используем для запоминания, в противном случае он сможет переписать все старые воспоминания человека. Сходным образом было бы опасно для любого ресурса слишком долго находиться в состоянии активности, ведь это может заставить остальной разум тратить все время на преследование единственной цели. Также если бы любой ресурс мог полностью подавлять наши инстинктивные побуждения, он заставил бы человека вообще не спать, или работать до полного изнеможения, или изморить себя голодом, – и то же самое можно отнести к любому ресурсу, способному контролировать системы, отвечающие за удовольствие и боль.

Пусть такие радикальные случаи редки, в основе множества распространенных человеческих недостатков лежит рост «ментальных паразитов», которые принимают формы самовоспроизводящихся наборов идей. Ричард Докинз назвал их в свое время мемами. Подобное собрание концепций может включать в себя способы роста и защиты путем подмены конкурирующих наборов идей – см. Блэкмор, 1999. Чтобы защититься от подобных крайностей, наш мозг научился находить баланс между чрезмерной централизацией и чрезмерным рассредоточением.

И тем не менее мы все равно уязвимы перед доктринами, философскими идеями, убеждениями и верованиями, которые распространяются среди всего народонаселения Земли. Сложно представить себе какой бы то ни было верный способ уберечься от подобных инфекций. Я считаю, что лучшее, что мы можем сделать, – это обучить наших детей навыкам критического мышления и методам научной проверки фактов.

9.8. Величие в сложности

Виталист:Ваши теории слишком механистичны – в них сплошные отдельные части, но не хватает целостности. Им нужен какой-то живой цемент – некая связующая сущность, которая будет держать их вместе.

Я понимаю это стремление, но не вижу, как такой цемент может нам помочь, потому что, какой бы клей вы ни предложили – например, концепцию единого «Я», – вам все равно придется описать, из чего состоит он сам и какая магия склеивает его компоненты. Поэтому слова вроде «духа» и «сущности» лишь вынуждают нас задавать одни и те же вопросы. Что касается таких терминов, как «Я» и «самость», они, как мне кажется, описывают только те случаи, когда мы используем модели собственного разума.