Живым голосом. Зачем в цифровую эру говорить и слушать

В-третьих, цифровая коммуникация делает наблюдение более доступным. Для корпораций, дающих нам средства для общения в интернете (мессенджеры, электронную почту, чаты), наше общение в сети – источник информации. Они заявляют свои права на эту информацию и используют ее, как правило, чтобы лучше продавать нам какие-то товары. Кроме того, стало известно, что и правительство также сохраняет копии наших сообщений. Так размываются границы между частным общением и ежедневным наблюдением, между частным общением и его новой упаковкой, придающей ему вид товара. В связи с этим в дополнение к вопросу “Что такое близость без неприкосновенности частной жизни?” я хотела бы задать еще один: “Что такое демократия без неприкосновенности частной жизни?”

Четвертый стул

Я размышляю о “четвертом стуле”. Уже говорилось, что, когда беседа выходила из берегов, Торо выводил своих гостей на воздух. Я думаю об этом как о его четвертом стуле, наиболее философском. Поскольку сегодня мы часто рассуждаем на философские темы, назрела необходимость подумать и о том, как мы используем технологии для создания второй, искусственной природы. Долгое время мы полагали, что имеют значение те беседы, которые мы ведем с другими людьми. В последние годы эта идея оказалась под угрозой из-за компьютерных программ, искушающих нас не столько своими умными технологиями, сколько возможностью общения. Я исследую проекты новых, более камерных бесед с “социально” компетентными машинами – это направление технологий обладает потенциалом для изменения самой человеческой природы. Для меня наши беседы четвертого стула – такие, каких Торо не мог себе вообразить: появился соблазн общаться не только посредством машин, но и с ними, обращаясь к ним.

Сперва возникает Siri, цифровой компаньон, всегда готовый откликнуться. Но это только начало. Пока я пишу этот текст, в СМИ появляются все новые истории о тестировании первых “домашних роботов”, призванных стать постоянно доступными “дружелюбными компаньонами”. Эти машины будут действовать так, словно понимают, что вы говорите, и будут обмениваться с вами любезностями посредством магии симулированного выражения эмоций[65]. Но неужели мы забыли, что такое беседа? Что такое дружба? Общение с техникой – это товарищество или изоляция?

Мы утрачиваем смысл слов. Когда-то слово “ум” значило куда больше, чем все то, на что способен любой искусственный интеллект. Оно подразумевало чувствительность, тонкость восприятия, осведомленность, проницательность, разум, чутье и остроумие. И все же теперь мы с готовностью называем машины умными. “Эмоциональный” – еще одно слово, некогда значившее куда больше, чем может дать какая-либо машина. Мы привыкли характеризовать действия машин, способных выразить эмоциональные состояния или почувствовать наши эмоции, как примеры “эмоциональных вычислений”[66]. Эти новые значения слов стали для нас новой нормой, и мы забываем о старых значениях. Требуются усилия, чтобы восстанавливать утраченный язык, утраченные значения слов, а со временем, возможно, и утраченные ощущения.

На одной из конференций, где мне довелось побывать, роботов называли “заботливыми машинами”, а на мой протест пояснили: это выражение используется не потому, что роботы к нам неравнодушны, а потому что они будут о нас заботиться. Забота – это поведение. Это функция, а не чувство[67]. Казалось, что участники конференции в растерянности: почему же я проявляю такую заботу о семантике? Что со мной не так?

Вполне естественно, что слова способны менять свое значение со временем, в новых обстоятельствах. Слова “ум” и “эмоциональный” поменяли свой смысл, чтобы их можно было использовать для обозначения действий машин. Что же, теперь к этому списку добавятся “заботливый”, “друг”, “товарищество” и “беседа”?

Что касается этих слов, то здесь слишком многое поставлено на карту. Мы их еще не потеряли. Мы должны вспоминать об этих словах и об этом разговоре, пока не стало слишком поздно: пока мы не забыли, как вести беседу, или не решили, что такую же беседу можно вести и с машинами.

Мы загоняем себя в такой угол, где оказывается, что под сомнение поставлено куда больше, чем слова.

Я говорю, что мы достигли “роботизированного момента” не потому, что создаем роботов, способных составить нам компанию, а потому что готовы рассмотреть возможность составить компанию роботам. По моим наблюдениям, все больше людей рассматривают идею, что в недалеком будущем им будет вполне достаточно общества машин. Собеседники признаются: в том случае, если машина сможет дать им “ощущение”, что она понимает их сокровенные мысли, этого понимания им вполне хватит, равно как и этой сокровенности.

Невозможно не заметить обилия иронии в этой ситуации. Мы хотим установить диалог с искусственным интеллектом ровно в тот момент, когда стремимся избежать беседы друг с другом.