Co-Intelligence: Living and Working with AI

Это может показаться глупым поводом для беспокойства. В конце концов, это всего лишь безобидная причуда человеческой психологии, свидетельство нашей способности к сопереживанию и общению. Но многие исследователи глубоко обеспокоены последствиями непринужденного поведения ИИ как человека, как с этической, так и с эпистемологической точки зрения. Как предупреждают исследователи Гэри Маркус и Саша Лучиони, " чем больше ложных полномочий люди им приписывают, тем больше их можно эксплуатировать".

Вспомните человекоподобный интерфейс таких ИИ, как Claude или Siri, или социальных роботов и терапевтических ИИ, явно создающих иллюзию сочувствующего человека на другой стороне. Хотя антропоморфизм может служить полезной цели в краткосрочной перспективе, он поднимает этические вопросы об обмане и эмоциональном манипулировании. Не обманывают ли нас, заставляя поверить, что эти машины разделяют наши чувства? И может ли эта иллюзия привести к тому, что мы сообщим этим машинам личную информацию, не понимая, что делимся ею с корпорациями или удаленными операторами?

Отношение к ИИ как к человеку может породить нереалистичные ожидания, ложное доверие или необоснованный страх среди общественности, политиков и даже самих исследователей. Оно может затушевать истинную природу ИИ как программного обеспечения, что приведет к неверным представлениям о его возможностях. Это может даже повлиять на то, как мы взаимодействуем с системами ИИ, отразиться на нашем самочувствии и социальных отношениях.

Поэтому в следующих главах, когда я говорю, что ИИ "думает", "учится", "понимает", "принимает решения" или "чувствует", пожалуйста, помните, что я говорю метафорически. У систем ИИ нет сознания, эмоций, самоощущения или физических ощущений. Но я буду делать вид, что они есть, по одной простой и одной сложной причине. Простая причина - повествовательная; трудно рассказать историю о вещах и гораздо легче - о существах. Более сложная причина: как бы несовершенна ни была аналогия, работать с ИИ проще всего, если думать о нем как о человеке-инопланетянине, а не как о машине, созданной человеком.

Так что давайте начнем грешить. Представьте, что ваш ИИ-сотрудник - это бесконечно быстрый стажер, стремящийся угодить, но склонный к искажению истины. Несмотря на то, что мы привыкли считать ИИ бесчувственными, логичными роботами, LLM больше похожи на людей. Они могут быть креативными, остроумными и убедительными, но также могут уклоняться и придумывать правдоподобную, но неверную информацию, когда их заставляют дать ответ. Они не являются экспертами ни в одной области, но могут подражать языку и стилю экспертов, что может быть как полезным, так и вводящим в заблуждение. Они не знают реального мира, но могут генерировать правдоподобные сценарии и истории, основанные на здравом смысле и закономерностях. Они не являются вашими друзьями (пока что), но могут адаптироваться к вашим предпочтениям и личности, изучая ваши отзывы и взаимодействия. Похоже, они даже реагируют на эмоциональные манипуляции: исследователи зафиксировали, что LLM дают лучшие ответы, если вы говорите им "это важно для моей карьеры" в качестве части вашей подсказки. Одним словом, они внушаемы и даже доверчивы.

Чтобы извлечь максимум пользы из этих отношений, необходимо создать четкую и конкретную персону ИИ, определив, кто такой ИИ и какие проблемы он должен решать. Помните, что LLM работают, предсказывая следующее слово или часть слова, которое последует за вашей подсказкой. Затем они продолжают добавлять язык, снова предсказывая, какое слово будет следующим. Поэтому стандартный вывод многих таких моделей может звучать очень шаблонно, так как они склонны следовать схожим шаблонам, характерным для письменных документов, на которых обучался ИИ. Разрушив шаблон, можно получить гораздо более полезные и интересные результаты. Самый простой способ сделать это - предоставить контекст и ограничения. Можно сказать системе, кто она, потому что это дает ей перспективу. Если попросить ее выступить в роли преподавателя для студентов MBA, результат будет отличаться от того, если попросить ее выступить в роли циркового клоуна. Это не волшебство - вы не можете сказать "Выступить в роли Билла Гейтса" и получить лучший бизнес-консультант, - но это может помочь сделать тон и направление соответствующими вашей цели.

Позвольте мне привести несколько примеров того, как определение персоны ИИ может улучшить ваши результаты. Предположим, вы директор по маркетингу и хотите использовать LLM для создания запоминающихся слоганов для вашего нового продукта - смарт-часов, которые отслеживают состояние вашего здоровья и физической формы. Если вы просто попросите LLM сгенерировать несколько слоганов для моего продукта, без какого-либо контекста или ограничений, вы можете получить что-то вроде этого:

Смарт-часы, которые делают вас умнее

Ваш партнер по фитнесу и здоровью

Устройство, идеально подходящее для вашего образа жизни

Оставайтесь на связи и будьте здоровы с нашими смарт-часами

Смарт-часы, которые делают все