Наука о мозге и миф о своем Я. Тоннель эго

Мы собираемся использовать генную инженерию для выращивания умственно отсталых человеческих младенцев. Насущные научные основания требуют породить младенцев с определенным дефицитом мыслительной и эмоциональной сферы, а также с ослабленными органами чувств. Важная новаторская экспериментальная стратегия требует контролируемого и воспроизводимого эксперимента по раннему развитию ущербных человеческих младенцев. Это важно не только для понимания работы мозга, но и для лечения психических заболеваний. Поэтому мы настоятельно нуждаемся в щедром финансировании.

Вы, без сомнения, сразу сочтете эту идею не только нелепой и безвкусной, но и опасной. Представляется маловероятным, что такая заявка пройдет хоть одну комиссию по этике в демократическом мире. Однако целью этого мысленного эксперимента было показать, что нерожденные постбиотические эго-машины будущего не нашли бы представителей их интересов в современных этических комиссиях. Первые машины, которые бы удовлетворяли минимально достаточным условиям сознательного опыта и самости, оказались бы в положении человеческих младенцев, искалеченных генной инженерией. Эти машины тоже страдали бы всякого рода функциональным и репрезентационным дефицитом — различными увечьями в силу несовершенства человеческой техники. Можно с уверенностью предположить, что их системы восприятия — искусственные глаза, уши и тому подобное — поначалу будут работать нелучшим образом. Они скорее всего будут полуслепыми, полуглухими, страдать множеством затруднений в восприятии мира и себя в нем — а будучи искусственными эго-машинами, они, по определению, будут способны страдать.

Имея устойчивую телесную я-модель, они смогли бы ощущать сенсорную боль как свою боль. Если их постбиотическая я-модель будет укоренена прямо в саморегулирующихся механизмах низшего уровня устройства — как наша эмоциональная я-модель укоренена в верхней части ствола мозга и гипоталамусе — они будут осознанно чувствующими самостями. Каждый эпизод потери гомеостатического контроля будет для них болезненным, потому что в них будет встроена забота о своем существовании, глубокая форма сопереживания, от которой они не могли бы дистанцироваться. У них будут собственные интересы, и этот факт они будут осознанно переживать. Существует вероятность того, что они смогут эмоционально страдать таким образом, что качественно их страдания будут нам совершенно чужды, а остроту их мы, халатные создатели, не сможем себе даже представить. На самом деле крайне вероятно, что первые поколения таких машин будут иметь очень много негативных чувств, которые будут отзеркаливать постоянные неудачные попытки успешной саморегуляции, вызванные разными неполадками устройства и помехами на высших уровнях обработки информации. Эти негативные чувства были бы сознательны и интенсивны, но во многих случаях мы не могли бы даже понять их или узнать об их присутствии.

Представьте себе следующий шаг эксперимента. Теперь у этих эго-машин будет мысленная я-модель — они станут разумными творцами мыслей. Тогда они смогут не только постичь умом причудливость своего существования — как объектов научного эксперимента, — но и интеллектуально страдать от сознания, что у них отсутствует врожденное «достоинство», которое представляется столь важным для их создателей. Они смогут осознанно представить, что являются лишь второсортными мыслящими гражданами — отчужденными постбиотическими самостями, которых используют как заменимое орудие эксперимента. Как бы почувствовали себя вы, «осознав себя» продвинутым искусственным субъектом, который, при прочном чувстве Я и осознании себя подлинным субъектом, имеет в данном социальном контексте лишь статус товара?