Технологии против человека

Компьютеры бесполезны. Они могут только давать ответы.

– Пабло Пикассо⁸⁹

Я считаю, что нас определяют такие уникальные человеческие черты, как способность задавать вопросы, представлять разные исходы событий, мыслить критически, читать между строк и видеть то, что еще только будет. И разве люди, стоящие за медиа и созданием контента, не должны стремиться к тому же?

Я боюсь наступления момента, когда все эти черты будут утеряны из-за машин, контролирующих, что и кого мы видим, на любых платформах на протяжении всего времени. Тогда мы уже будем на пути к тому, чтобы отказаться от нашего сознания и передать нашу человечность в их распоряжение. И прежде чем мы это осознаем, мы можем оказаться в программируемой реальности, принадлежащей владельцам серверов и программ.

Люди выступают в роли репродуктивных органов для технологий.

– Кевин Келли, «What Technology Wants»⁹⁰

Что случится с нашей способностью принимать решения, если боты будут думать за нас и выступать от нашего лица? Если программы и умные помощники уже принимают за нас простые решения вроде выбора фильма или еды на вечер, куда тогда исчезнут сюрпризы, загадки, ошибки и интуитивные озарения? Можно ли будет запрограммировать этих умных цифровых помощников таким образом, чтобы они были по-человечески несовершенными, непоследовательными, по-своему особенными, но тем не менее могли достигать результатов? Хотели бы мы, чтобы они стали такими?

Будут ли боты голосовать за нас и станут ли представлять нас в демократических институтах, например на референдуме или даже в парламенте? Будут ли наши умные цифровые помощники собирать информацию и затем на основе анализа наших прошлых мнений, поведения и принятых решений советовать нам, за кого стоит проголосовать?

Останется ли свобода воли в прошлом, потому что в будущем все можно будет предсказать?

Свободной воли не будет ни в чем, созданном при помощи искусственного интеллекта.

– Клайд Де Суза[63]

Захватят ли кротовьи норы мир?

Технологии продолжают заманивать нас в свои сети, и я боюсь, что они тем самым говорят нам: «Мы можем предоставить быстрый доступ к любой информации, применяя ИИ, базы данных и роботов. В трудоемких, скучных и медлительных „человеческих штучках“ уже нет нужды».

Сначала они у меня в руках, затем на моем лице, в ушах и, в конце концов, в моей голове. Детям уже не нужно учиться писать, потому что компьютеры смогут слушать, фиксировать и расшифровывать все, что мы им скажем. Нет необходимости разбираться со сложностями в реальных человеческих отношениях, если можно состоять в отношениях, в том числе сексуального характера, с цифровыми эквивалентами с помощью дополненной реальности, виртуальной реальности и роботов. Не нужно учиться играть на инструментах, потому что интерфейс «мозг – компьютер» позволит мне воспроизводить музыку, просто думая о ней. Зачем учить языки, если за меня все скажет мобильный переводчик? Зачем разговаривать с людьми, если они могут просто «сбросить» нам данные? Зачем проявлять эмоции, которые только мешают грамотной работе ИИ?

С помощью автоматизации мы сможем избавиться от старого способа выполнения рутинных человеческих задач и моментально получить те же результаты – так, по крайней мере, планируется. Мы можем пролистать сотни страниц в Twitter и посмотреть многочисленные видео на YouTube, и, казалось бы, стать экспертом в какой-либо области в ничтожные сроки. Мы можем выучить все, что угодно, ровно тогда, когда это понадобится, а не «на будущее» или «на всякий случай». Для этого нам понадобится всего лишь правильная информация и подходящая программа.

Мы предпочитаем плыть по течению в потоке данных, вместо того чтобы их запоминать. В каком-то смысле мы можем стать сверхлюдьми. Или нет?

Я называю это пространственно-временными туннелями по аналогии с космическими воображаемыми путями (на которые можно попасть с помощью варп-двигателя[64] – для тех, кто смотрел «Звездный Путь»). Они символизируют быстрое достижение цели в обход всех человеческих промедлений с помощью технологий.