Сердце машины. Наше будущее в эру эмоционального искусственного интеллекта

Желание контролировать машины и взаимодействовать с ними более естественным способом, сделать машины похожими на нас дает основание полагать, что в конце концов мы захотим, чтобы они понимали наши чувства. Устройство, «интуитивно» изменяющее свои действия в зависимости от того, что мы чувствуем, будет обладать огромным полезным потенциалом. Транспортное средство, сообщающее водителю, когда его бдительность падает ниже определенного порога. Образовательное программное обеспечение, распознающее, когда обучаемый расстроен, и изменяющее ход урока в реальном времени. Программа-консультант, обнаруживающая события, которые провоцируют у пользователя гнев или саморазрушительное поведение.

В этом и заключается потенциал эмоционального программирования. Подобно тому как цифровая революция изменила практически каждый уголок земного шара, эмоциональное программирование изменит почти любой аспект нашей жизни. Как нам еще предстоит выяснить, большинство областей будут охвачены этой технологией. Ее помощь пригодится правоохранительным органам и органам национальной безопасности, поскольку им необходимо понимать потаенные мысли и мотивы подозреваемых и виновных в совершении преступлений. Она также будет полезна в раннем обучении, помогая детским умам развиваться, при обнаружении расстройств аутического спектра и в качестве возможного метода терапии, что может усовершенствовать каналы связи. Она может использоваться в персонализированном маркетинге, облегчающем совершение покупок. Роботы станут нашими друзьями, компаньонами и даже возлюбленными.

Некоторые из этих возможностей можно рассматривать с изрядной долей скептицизма, неуверенности и даже беспокойства. Все они вместе и каждая в отдельности повлекут за собой уникальные изменения, непредвиденные последствия и негативные проявления. Проще говоря, у всего есть темная сторона. И это неизбежно, ведь каждую технологию можно обратить как на пользу, так и во вред, и любая технология обладает потенциалом использования как для благих, так и для вредоносных целей.

Наконец, общество найдет способы справиться с наиболее важными проблемами, и есть надежда, что оно не станет злоупотреблять запретительными мерами. Запрет технологии под предлогом возможного неблагоприятного исхода не приведет ни к чему, кроме разве что технофобии. Достаточно обратиться к истории, чтобы понять, как далеко заходит подобный страх. Например, греческий философ Платон не поддерживал развивавшуюся в его время технологию письма и всеобщей грамотности.

Стоит людям обучиться этому, и в их душах воцарится забывчивость, они перестанут упражнять память, уповая лишь на то, что записано, вспоминая не то, что осталось у них в уме, а прибегая к помощи внешних знаков. Ваше открытие – средство не для памяти, а для напоминания. Это не истинная мудрость, которую вы передаете ученикам, а лишь ее видимость, так как рассказывая им о многом, но при этом не обучая их, вы дадите им лишь видимость того, что они много знают, хотя в большинстве своем они не знают ничего, и, будучи полны не мудрости, но лишь своего понимания мудрости, они будут лишь обузой окружающим³⁶.

Слова Платона о последствиях письма для до-письменного общества и словесной памяти в чем-то верны, но в наши дни вряд ли найдутся люди, абсолютно уверенные в том, что без письменности жилось бы лучше. Ее использование, как и любой другой технологии, обернулось и на благо, и во вред, но баланс определенно склонился в положительную сторону. Можно возразить, что некоторые письменные труды, созданные за прошедшие века, причинили человечеству вред, но вряд ли это стало бы оправданием для уничтожения письменности в целом.

В истории можно найти примеры, когда новые технологии вызывали страх. Печатный станок, электричество, автомобили, компьютеры и смартфоны – лишь немногие из примеров. Сложно назвать технологию, использование которой не затрагивало бы широкий спектр вопросов этики и морали. В этом отношении нет оснований считать, что с эмоциональным программированием будет иначе.

Многие из нас, если не все, сочтут некоторые последствия эмоционального программирования настораживающими или губительными. Наши мысли, равно как и наши чувства, считаются самым сокровенным убежищем, областью, неприкосновенность которой никогда не должна нарушаться. Подобное вторжение равносильно собственно чтению мыслей. Как мы убедимся позже, это может оказаться не так далеко от истины.