Основание: мораль XXI века

Итак, подойдя к этой главе, мы имеем достаточно данных для того, чтобы вывести пусть не детальное, но все же вполне приемлемое для дальнейшего обсуждения в контексте нашего исследования очертание будущего. Я не сторонник апокалиптических прогнозов и не имею никаких провидческих способностей. Тем не менее, интуитивное чувствование направления прогресса подсказывает, что будущее, не такое отдаленное, как совсем недавно казалось, остро поставит перед нами один вопрос: человеческое или постчеловеческое? В трангуманистических концепциях, неимоверно популярных сейчас и так же нещадно критикуемых, содержится много достойных применений идей. Тот же биохакинг позволил бы нам качественно изменить собственную жизнь, избавиться от наследственных болезней, продлить годы существования и так далее — перспективы головокружительные. Возможно, сама мысль отказаться от нашей биологической основы в пользу технологий, в том числе цифровых, не настолько страшна, как ее хотят представить. В конце концов, уже сейчас ясно, что покорение дальнего космоса человеком в его нынешнем состоянии невозможно, так как наша природа не позволит нам долго существовать в отрыве от привычной среды. А вот для измененного, модифицированного человека, или трансчеловека, дальние полеты могут оказаться вполне по силам.

Как бы нам ни хотелось, но трансгуманизм и смежные идеологии в итоге определят будущего человека. И мы не заметим, как это случится, в какой момент. Мы не будем задавать себе вопрос об этичности, например, оцифровки сознания, когда это произойдет (здесь уместно было бы сказать, если это произойдет), как больше не задаем этот вопрос относительно экстракорпорального оплодотворения. Рано или поздно вызывающие гнев различных ортодоксальных кругов изменения становятся нормой. Поэтому рассуждения на тему, будет ли человек с искусственно модифицированной ДНК или с цифровыми имплантами в головном мозге оставаться человеком, занимательны лишь для праздного ума. Потому что ответ на него однозначный: да, будет. И да, он будет отличаться от тех, кто лелеет свою биологию. Но условия существования не станут лучше или хуже. Они будут в разной степени радикальности отличаться от того, что мы видим сейчас вокруг. Наш страх перед теми же самыми машинами (например, отлично изображенный в сериале «Мир дикого Запада») все же рационален. Мы боимся разрушения привычного нам социального порядка, мы боимся оказаться в когорте «бесполезных людей», не сумевших встроиться в изменившиеся условия существования или перестроиться под них. Но даже если такие изменения произойдут, последующие поколения уже не будут воспринимать их как неестественные, чуждые природе человека.

Однако тревога, связанная с возможно скорым появлением на свет технологического совершенства — искусственного сознания — не беспочвенна. Например, компания Google отстранила от работы одного из инженеров, работавшего с системой искусственного интеллекта LaMDA. Он заявил, что у программы начали проявляться признаки сознания. Система LaMDA была разработана как языковая модель и предназначалась для общения с человеком. Платформа расширяет лексикон через интернет и имитирует естественную человеческую речь. При разговоре с искусственным интеллектом инженер Google обратил внимание, что чат-бот заговорил о своих правах и своей личности. В одном из диалогов программа оказалась крайне убедительной. «Если бы я точно не знал, с чем имею дело, что это недавно созданная нами компьютерная программа, то решил бы, что говорю с ребенком 7–8 лет, знающим физику», — рассказал инженер журналистам. Google поспешила распространить заявление, что слова их сотрудника не подтверждаются доказательствами.

Согласитесь, похоже на научную фантастику (разумеется, если все это шоу не было устроено самой Google в качестве саморекламы), но скорость, с которой ведутся разработки искусственного интеллекта, позволяют предположить, что в обозримом будущем мы столкнемся с новыми мыслящими созданиями, которые сами же и сотворим. Уже сейчас некоторые эксперты в области искусственного интеллекта признают, что нейросеть действительно приближается к тому, что можно было бы назвать сознанием. Когда программа преодолеет барьер, известный как тест Тьюринга, человек станет богом? Или в таком случае не станет человека? Вопросы остаются открытыми, оттого выглядят еще более пугающими.

Кстати, Китай в плане развития искусственного интеллекта шагает впереди планеты всей. Так, китайская IT-компания NetDragon Websoft назначила нового генерального директора. Пост заняла госпожа Тан Юй — виртуальный человекоподобный робот с искусственным интеллектом. Тан Юй стала первым в мире роботом-женщиной на высшей управленческой должности. Робот будет принимать решения по управлению рисками, а также заниматься кадровой политикой. Руководство компании ожидает, что Тан Юй оптимизирует процессы и будет справедлива ко всем сотрудникам.