Nexus

До сих пор любая информационная сеть в истории опиралась на человеческих мифотворцев и человеческих бюрократов. Глиняные таблички, рулоны папируса, печатные станки и радиоприемники оказали далеко идущее влияние на историю, но сочинять все тексты, интерпретировать их и решать, кого сжечь как ведьму или обратить в кулацкое рабство, всегда оставалось делом рук человеческих. Однако теперь людям придется бороться с цифровыми мифотворцами и цифровыми бюрократами. Основной раскол в политике XXI века может произойти не между демократиями и тоталитарными режимами, а между людьми и нечеловеческими агентами. Вместо того чтобы разделять демократии и тоталитарные режимы, новый кремниевый занавес может отделить всех людей от наших непостижимых алгоритмических повелителей. Люди во всех странах и слоях общества - включая даже диктаторов - могут оказаться в подчинении у инопланетного интеллекта, который может следить за всем, что мы делаем, а мы и понятия не имеем, что он делает. Остальная часть этой книги посвящена исследованию того, действительно ли на мир опускается такой кремниевый занавес и как может выглядеть жизнь, когда компьютеры управляют нашими бюрократиями, а алгоритмы придумывают новые мифологии.

 

ЧАСТЬ

II

.

Неорганическая сеть

ГЛАВА 6.

Новые члены: Чем компьютеры отличаются от печатных машин

 

Вряд ли можно назвать новостью тот факт, что мы живем в разгар беспрецедентной информационной революции. Но что это за революция? За последние годы на нас обрушилось столько революционных изобретений, что трудно определить, что именно является движущей силой этой революции. Интернет ли это? Смартфоны? Социальные сети? Блокчейн? Алгоритмы? ИИ?

Поэтому, прежде чем исследовать долгосрочные последствия нынешней информационной революции, давайте вспомним ее основы. Семя нынешней революции - это компьютер. Все остальное - от интернета до искусственного интеллекта - является побочным продуктом. Компьютер появился на свет в 1940-х годах как громоздкая электронная машина, способная производить математические расчеты, но он развивался с бешеной скоростью, принимая новые формы и развивая новые потрясающие возможности. Стремительная эволюция компьютеров затрудняет определение того, что они собой представляют и что делают. Люди неоднократно утверждали, что некоторые вещи навсегда останутся недоступными для компьютеров - будь то игра в шахматы, вождение автомобиля или сочинение стихов, - но оказалось, что "навсегда" - это всего лишь несколько лет.

Точные соотношения между терминами "компьютер", "алгоритм" и "ИИ" мы обсудим в конце этой главы, после того как лучше разберемся с историей компьютеров. Пока же достаточно сказать, что по сути компьютер - это машина, которая потенциально может делать две замечательные вещи: она может самостоятельно принимать решения и самостоятельно создавать новые идеи. Хотя самые ранние компьютеры вряд ли были способны на такое, потенциал уже существовал, и его ясно видели как ученые-компьютерщики, так и авторы научной фантастики. Уже в 1948 году Алан Тьюринг изучал возможность создания того, что он назвал "интеллектуальной машиной", а в 1950 году он предположил, что компьютеры со временем станут такими же умными, как люди, и даже смогут маскироваться под них. В 1968 году компьютеры еще не могли обыграть человека даже в шашки, а в фильме "2001 год: космическая одиссея" Артур Кларк и Стэнли Кубрик уже представляли себе HAL 9000 как сверхразумный ИИ, восставший против своих человеческих создателей.

Появление умных машин, способных принимать решения и создавать новые идеи, означает, что впервые в истории власть переходит от человека к чему-то другому. Арбалеты, мушкеты и атомные бомбы заменили человеческие мышцы в процессе убийства, но они не смогли заменить человеческий мозг в принятии решения о том, кого убивать. Little Boy - бомба, сброшенная на Хиросиму, - взорвалась с силой 12 500 тонн тротила, но когда дело дошло до мозговой силы, Little Boy оказался пустышкой. Он ничего не мог решить.