Катастеризм

– Не прибедняйтесь, – отмахнулась она. – Так всё же: что такое человек? Что такое личность?

– Юлия Николаевна, я… я сейчас, наверное, не лучший собеседник на философские темы.

– Я делаю поправку на ваше состояние. И всё же подумайте. Что придаёт нашей личности консистентность? Что делает вас – вами?

Даня растерянно ковырнул вилкой омлет. Сперва у него в голове было совсем пусто – он понял, что на самом деле всё это время не особо слушал Юлию Николаевну, не говорил с ней, а отбивал реплики. Хороший игрок в пинг-понг отбивает не глядя.

И в то же время ему стало интересно – против собственной воли. Происходящее было так странно и абсурдно, что его можно было принять без скепсиса – будто ты в сериале, и сейчас Джимми из «Цифрового агентства» выскочит на ближайшем экране и забавными, но броскими фразочками разъяснит, почему это всё инсценировка в виртуальной реальности.

Он искренне нахмурил лоб.

– Ну… уф. Все молекулы нашего тела полностью обновляются раз в… сколько-то там лет. Значит, человек – это не сами эти молекулы, а… как бы это… информация о том, как они должны быть расставлены. Молекулы именно моего тела. Ну, необязательно на уровне молекул, это я образно… А откуда эта информация берётся… из генетики, наверное, – Даня силился припомнить статьи на эту тему, которые когда-то, конечно же, читал, – но и из опыта. Потому что если мне оторвут руку, то новая не вырастет, и генетика тут ни при чём. Человека формирует то, что с ним происходит. Поэтому и забывать нельзя… ничего. Потому что всё, что всё с тобой было, – это и есть ты.

– Это если вынести за скобки тот факт, что человек постоянно всё забывает и помнит ничтожный процент своей жизни. Но в целом – браво. Отличный ответ. Да, вполне разумно сказать, что личность человека – это функция от его жизненного опыта. С важным уточнением: не просто самого опыта, но и эмоциональных привязок к нему. Доказано, что мы плохо запоминаем и даже воспринимаем всё, что не вызывает у нас эмоций. Ну и наоборот: что эмоции вызвало, то врезается.

Врезался в стекло рядом с ними мокрый ноябрьский снег – как тогда, год назад.

Впрочем, что год, что день.

– Тут, правда, вот какой интересный парадокс: опыт и эмоциональные привязки – тоже не что-то осязаемое, а процесс…

– «Человек – это в первую очередь процесс», – пробормотал Даня.

– …Да и эмоциональными привязками легко манипулировать. Эмоции наши – это же просто биохимия организма. Выделяется у человека достаточное количество серотонина – и он весел. Не работает серотониновый обмен, вот как у вас, – и ему плохо. И подчас у этого есть некие… ну, скажем так, правильные причины – логичные, оправданные, а подчас и нет. Знаете, какой один из главных катализаторов выработки серотонина? Солнечный свет. Человеку может быть хорошо просто потому, что солнышко выглянуло. И ему врежется в память и изменит всю жизнь какой-нибудь совершенно несущественный эпизод – из-за этой связки с эмоцией.

– Вы клоните к тому, что всё в нас иррационально и бессмысленно?

– Я клоню к тому, что всё в нас управляемо – просто настолько сложно, что мы до сих пор в этом управлении не разобрались. Но работаем над этим. Я ведь не сказала вам, с какой именно сферой работаю? С нейрофизиологией – ну, в том числе. А мозг – штука очень хитрая. Впрочем… тут нужна небольшая предыстория про мозги цифровые.

У самообучающихся алгоритмов и прочих нейросетей бывают сбои, которые можно без натяжки назвать когнитивными ошибками. Например, ошибкой предубеждения.

Допустим, есть нейросеть, которую мы обучаем отличать кошек от собак. Мы показываем ей разных животных, больших и маленьких, мохнатых и лысых – и даже иногда пони для контраста. Она запоминает, что собаки отличаются друг от друга сильно, а кошки, наоборот, похожи, так что если тебе показали что-то непонятное (например, пони), то это, скорее всего, собака. Такое суждение закрепляется – и чем дольше оно даёт более-менее правильные результаты, тем больше вероятность, что алгоритм решит свой стереотип сузить. Например, вдруг убедит себя, что у архетипической кошки должен быть хвост, а бобтейлы выглядят странновато, так что они, наверное, собаки.

Это, впрочем, не слишком неожиданно. Когнитивные ошибки есть и у людей, и, по всей видимости, это просто побочный эффект любого процесса, напоминающего мышление. Мир слишком многообразен, его слишком много; единственный способ справиться с этим хаотичным шумом – сформировать стереотипы, некие идеальные платоновские образцы (чего угодно, от табурета до семьи), с которыми мы сравниваем всё происходящее. Нам, быть может, и хотелось бы польстить себе, заявив, что мы мыслим глубже и вовсе не стереотипами, только это не так.

Логично, что когда нейросети перешли от более чистого, но и более машинного суждения по дифференциальным признакам к суждению через сравнение со стереотипами, из них полезли ошибки.

Тут всё понятно.