Седьмое чувство. Под знаком предсказуемости: как прогнозировать и управлять изменениями в цифровую эпоху

Все системы, на которые мы полагаемся, которые, как мы считаем, подчинены нам, – будь то финансовые, политические или цифровые сети – всех их можно сделать неуправляемыми, всех их можно взломать с помощью сил, которых мы не видим и которые мы отчаянно пытаемся остановить. Я говорю о том, чем вы пользуетесь каждый день. Социальные сети. Рынки ценных бумаг. Говорю вам, будьте предельно осторожны, когда подключаетесь к чему-то. Не только из-за хакеров. Даже в ходе предвыборных кампаний возможны манипуляции гражданами, используя тонкий таргетированный подход. Финансовые объединения могут переворачивать рынки благодаря доступу к огромным объемам информации. Сети больше нельзя считать безобидными. Эволюция «Hack-Tic» – поколения из состояния открытости к состоянию осторожности произойдет и со всеми нами. Братус был прав, когда говорил о том, что мы не понимаем полностью систему до тех пор, пока она не окажется испорчена. Что, мы будем ждать, пока наш мир взломают, будем ждать того момента, когда он окажется испорчен, и даже не попытаемся до тех пор понять систему, которую мы создали? Очень надеюсь, что нет. Эта книга написана для того, чтобы это не произошло.

Глава 7 Новая каста

В которой будет представлена могущественная группа людей, которую определяет ее владение сетью.

В 1965 году ученый-технолог по имени Джозеф Вайзенбаум неожиданно поймал себя на том, что он занят проблемой, связанной с его компьютером и его пользователями, которой он не вполне ожидал. Шел эксперимент, который начинался довольно безобидно. Он написал программу, выполнявшую то, что сейчас называется естественной обработкой языка – код, созданный для перевода того, что человек сообщает машине, на язык, который компьютер сможет понять и с которым он сможет работать. Когда кто-то спрашивает компьютер, какая сейчас погода, машина использует особый подход, чтобы обратить этот вопрос в серию запросов. Чтобы на такие вопросы можно было получить ответ, требуется значительный объем цифровой работы, направленной на то, чтобы компьютер понял, что вы имеете в виду и как на вас реагировать. В 1965 году дело обстояло именно так.

Программа Вайзенбаума, которая могла выполнять примитивные коммуникативные программы, была настоящим прорывом. После разработки таких алгоритмов, которые позволяли компьютерам по-настоящему общаться с человеком, он захотел продемонстрировать истинный масштаб возможностей, открываемых этим новым подходом. Итак, его безобидная на вид идея состояла в том, чтобы построить систему, которая в какой-то степени сможет выстраивать личный диалог. Программа должна была воспринять то, что пользователь напечатает, а затем, основываясь на том, что она поняла, задать вопрос. Вайзенбаум позаимствовал этот простой подход к диалогу у американского психотерапевта Карла Роджерса, который считал, что лучше всего взаимодействовать с пациентами получается не посредством хитроумных ребусов Фрейда, а через доступные и легкие вопросы. Вайзенбаум написал две программы. Одна из них называлась DOCTOR и была создана для того, чтобы понимать введенные данные и на их основании решать, что говорить. Вторая программа использовала эту информацию, чтобы говорить с пользователем. Он назвал ее ELIZA в честь героини из «Пигмалиона».

Вот пример диалога между ELIZA и одним пользователем, который Вайзенбаум записал в 1965 году:

Пациент: Все мужчины одинаковые.

ELIZA: В КАКОМ СМЫСЛЕ?

Пациент: Они постоянно достают нас то одним, то другим.

ELIZA: НЕ МОГЛИ БЫ ВЫ ПРИВЕСТИ КОНКРЕТНЫЙ ПРИМЕР?

Пациент: Ну, я здесь из-за своего парня.

ELIZA: ВЫ ЗДЕСЬ ИЗ-ЗА СВОЕГО ПАРНЯ?

Пациент: Он говорит, что большую часть времени я хмурая.

ELIZA: МНЕ ЖАЛЬ СЛЫШАТЬ, ЧТО БОЛЬШУЮ ЧАСТЬ ВРЕМЕНИ ВЫ ХМУРАЯ.

Пациент: Это правда. Я несчастна.

ELIZA: ДУМАЕТЕ ЛИ ВЫ, ЧТО ТО, ЧТО ВЫ ПРИШЛИ СЮДА, ПОМОЖЕТ ВАМ НЕ БЫТЬ НЕСЧАСТЛИВОЙ?

Пациент: Помощь мне нужна – в этом я уверена.

Программа Вайзенбаума скоро стала известной в Массачусетском технологическом институте. (Там даже подшучивали над тем, что эта программа лучше вытягивает диалог, чем большинство непутевых студентов Кембриджского кампуса.) ELIZA выполняла именно то, что задумал Вайзенбаум: она давала пользователям возможность испытать, каково это – пользоваться машиной со своим независимым разумом. Вскоре программа разошлась по остальным кампусам и по различным НИИ, и с каждым новым этапом ее успеха Вайзенбаум все больше переживал из-за обратной связи, которую он получал. Беспокоила его не ELIZA, а ее пользователи.