2062: время машин

Таким образом, цифровая революция заставит нас пересмотреть собственную человечность. Это еще одна причина, по которой ее можно будет назвать Вторым Возрождением. Мы заново откроем в себе людей.

Технически к 2062 году машины станут великолепными художниками. Они смогут писать пьесы, которые могли бы посоревноваться с «Макбетом» Шекспира. Они смогут писать картины не менее впечатляющие, чем «Герника» Пикассо. Писать музыку не хуже Эрика Сати. Однако мы все равно будем больше любить творения художников-людей. Ведь именно они апеллируют к человеческому опыту.

Мы будем восторгаться творцами, которые говорят о любви, потому что для нас это некий общий знаменатель. Машины никогда не смогут испытать любовь. Даже если компьютеры разовьют в себе сознание и эмоции, они никогда не смогут испытать человеческую любовь. Мы будем восторгаться теми, кто говорит о смерти, потому что и это мы тоже разделяем. Или теми, кто рассуждает о нашем духе. О справедливости и честности. О любом другом аспекте человеческого опыта.

Так же, как и творчество, мы заново откроем для себя ремёсла. Уже сейчас мы можем видеть зачатки этого в культуре хипстеров. Вещи, сделанные человеческими руками, будут цениться нами все больше. Товары массового производства, сделанные машинами, станут дешевле, а вещи ручной работы – раритетнее и намного дороже.

Ремесел будет великое множество. Приготовление крафтового пива. Приготовление сыра. Приготовление вина. Керамика ручной работы. Все это апеллирует к нашему человеческому опыту. Деревянная посуда ручной работы будет больше востребована, чем сделанная машинами идеальная и дешевая. Мы запомним историю плотника о том, как он нашел дерево для этой посуды во время прогулки с собакой по лесу. Мы вспомним дочь плотника, стоявшую рядом с ним и впитывавшую древнее знание.

Будучи социальными существами, мы всё больше начнем находить счастье во взаимодействии с другими людьми. Бариста будут просто нажимать кнопки на кофе-машинах, управляемых компьютером, но мы все еще будем выстраиваться в очереди для непринужденной беседы с людьми. Ради улыбки и человеческого опыта. Мы все еще будем хотеть, чтобы платье нам помогал выбирать человек. Чтобы человек сообщал о плохих результатах анализа крови. Чтобы человек наливал бокал виски и сопровождал это утешительной фразой. Чтобы человек помогал нам привести себя в форму. Чтобы человек выносил вердикт в суде.

Самыми важными человеческими качествами в 2062 году станут наш социальный и эмоциональный интеллект, наши творческие и ремесленные умения. Вовсе не навыки STEM, которые сегодня так важны для приема на работу. Ирония в том, что наше технологическое будущее станет невероятно человечным. Профессии будущего – это те, в которых потребуются человеческие качества.

5. Конец войны

Одна из профессий, которая, вероятно, исчезнет благодаря автоматизации, мне и многим другим людям внушает ужас. Работа солдата. Перемены в этой области уже начали происходить. Гонка вооружений теперь состоит в разработке роботов, которые смогут заменить человека на поле боя. СМИ прозвали их роботами-убийцами, однако технический термин – «смертоносное автономное оружие» (lethal autonomous weapon), или САО (LAW).

Название «роботы-убийцы» представляется неудачным, так как это рисует в голове образ Терминатора, а значит, технологий, до которых еще далеко. Однако меня и моих коллег пугает совсем не Терминатор. Мы обеспокоены скорым появлением гораздо более простых технологий. Я боюсь не умного ИИ, а глупого. Мы предоставим неприспособленным для этого машинам решать вопросы жизни и смерти.

Возьмем, к примеру, дрон «Хищник». Полуавтоматическое оружие, способное летать самостоятельно большую часть времени. Тем не менее это все же солдат, который обычно находится в штате Невада под жестким контролем. Однако важнее то, что это солдат, который решает, открывать ли ему огонь. Это пока только маленький шаг к тому, чтобы заменить человека компьютером. Технически такое уже возможно[56]. Как только мы создадим подобные простые автономные системы вооружения, гонка вооружений сосредоточится на создании более сложных ее версий.

Мир сильно изменится к худшему, если в течение ближайших двадцати лет смертоносное автономное оружие станет нормой и не появится никаких законов, регулирующих его применение. Это будет ужасным достижением военного прогресса. Однако подобного можно избежать. Мы можем решить, идти ли нам этой дорогой. Такое решение нам предстоит принять в ближайшие несколько лет.

Привлекательность роботов-убийц

Для армии преимущества автономных систем вооружения очевидны. Самое слабое звено в «Хищниках» – радиосвязь с базой. Работу дронов действительно нарушают сбои в радиосвязи. Если бы «Хищники» смогли летать, отслеживать и прицеливаться самостоятельно, в нашем распоряжении оказалось бы куда более серьезное оружие.