Технологии против человека

Сострадание – проще говоря, «сочувствующая забота о страданиях или несчастьях других» – это одна из самых сложных вещей для понимания, и, безусловно, одна из самых трудных для практики. Сострадание гораздо сложнее, чем ум и интеллектуальное мастерство.

Можете ли вы представить себе компьютер, приложение, робота или программный продукт, испытывающий сострадание? Машину, которая чувствует то, что вы чувствуете, которая резонирует с вашими эмоциями и которая страдает, когда вы страдаете? Конечно, мы можем предвидеть появление машин, которые смогут понимать эмоции или даже распознавать сострадание в человеческих лицах и языке тела. Мы также можем представить себе машины, которые смогли бы подражать человеческим эмоциям, просто копируя или обучаясь у нас, и, следовательно, будет казаться, что они на самом деле испытывают эмоции.

Однако главное отличие состоит в том, что у машин никогда не будет чувств. Они не могут испытывать сострадание, они могут в лучшем случае хорошо его имитировать. Это, безусловно, ключевое различие, о котором мы должны задуматься более подробно, когда рассматриваем технологическое цунами, стремящееся поглотить нас. Если бы мы и дальше путали хорошо выполненное моделирование с реальным существом, ошибочно принимая алгоритмический вариант чувства за фактическое сознание, мы бы попали в серьезную беду.

Эта путаница и есть главный недостаток трансгуманизма.

На мой взгляд, машины станут чрезвычайно хорошими, быстрыми и дешевыми при моделировании или дублировании человеческих черт, но на самом деле они никогда не будут людьми. Реальная задача для нас будет заключаться в том, чтобы противостоять искушению счесть эти симуляции «достаточно хорошими» и позволить им заменить уникальные человеческие взаимодействия. Было бы глупо и опасно отказываться от действительно человеческого опыта эвдемонизма в пользу вездесущих, доступных и быстрых гедонических удовольствий, предоставляемых машинами.

В книге «Последнее изобретение человечества. Искусственный интеллект и конец эры Homo sapiens» Джеймс Баррат пишет:

Мощная ИИ-система, цель которой – обеспечить вашу защиту, может попросту запереть вас дома и никуда не выпускать. Если вы попросите счастья, она может подсоединить вас к системе искусственного жизнеобеспечения и все время стимулировать центры удовольствия в вашем мозгу. Если вы не обеспечите ИИ очень большой библиотекой приемлемых вариантов поведения или надежнейшим средством выбора предпочтительного для вас варианта, вам придется терпеть тот вариант, который он выберет сам. А поскольку ИИ – чрезвычайно сложная система, вы, возможно, никогда не сумеете понять ее достаточно хорошо, чтобы быть уверенным в правильности своих представлений о ней.

Счастье против денег: впечатления против материальных вещей

Люди часто отмечают, что счастье, основанное на материальных вещах или финансовом положении, в действительности не имеет большого значения. На самом же деле в так называемых развитых странах общий уровень счастья возрастает, когда люди зарабатывают больше денег, но только до определенного момента: исследования показывают, что все суммы, превышающие 50 000–75 000 долларов США в год, на самом деле едва ли добавляют счастья в жизни людей. Взаимосвязь между доходом и благополучием сводится на нет¹⁷¹.

Счастье нельзя приобрести или купить, и поэтому его было бы невозможно поместить в приложение, бот или какую-либо другую машину.

Имеющиеся данные свидетельствуют о том, что впечатления намного дольше влияют на общий уровень счастья, чем материальные вещи¹⁷². Впечатления являются личными, контекстуальными, своевременными и материализованными. Впечатления основаны на тех исключительных качествах, которые делают нас людьми, – наших андроритмах.

Как отметила доктор Джанксин Лей, начальник отдела инновационных продуктов в HopeLab, в блоге The Huffington Post в апреле 2015 года: