Co-Intelligence: Living and Working with AI

В этом сценарии риски более серьезны и менее предсказуемы. Каждая компьютерная система уязвима для взлома ИИ, а кампании влияния с помощью ИИ проводятся повсеместно. ИИ, все еще контролируемые людьми, генерируют новые опасные патогены и химические вещества, помогая правительствам и террористическим ячейкам достичь новых методов разрушения. Уже были признаки того, что это происходит с примитивными, до-LLM ИИ: Исследователи ИИ, создававшие инструмент для поиска новых лекарств, спасающих жизни людей, поняли, что он может делать и обратное - генерировать новые боевые отравляющие вещества. В течение шести часов на сайте был изобретен смертоносный нервно-паралитический газ VX... и кое-что похуже. При широком распространении мощных ИИ военные и преступники используют ИИ для усиления своих усилий. И в отличие от предыдущего сценария, наши нынешние правительственные системы не успевают приспособиться обычным способом.

Вместо этого "плохие" ИИ сдерживаются "хорошими" ИИ. Но в этом решении есть и оруэлловский оттенок. Все, что мы видим, должно быть отфильтровано через наши собственные системы ИИ, чтобы удалить опасную и вводящую в заблуждение информацию, что создает собственный риск возникновения "пузырей фильтров" и плохой информации. Правительства используют ИИ для борьбы с преступностью и терроризмом с помощью ИИ, что создает опасность ИИ-тократии, поскольку вездесущая слежка позволяет как диктаторам, так и демократическим государствам установить больший контроль над гражданами. Мир больше похож на киберпанковскую борьбу между властями и хакерами, использующими системы ИИ.

ИИ-компаньоны становятся гораздо более привлекательными для общения, чем большинство других людей, и могут беспрепятственно общаться с нами в режиме реального времени, причем эти изменения происходят быстрее, чем кто-либо ожидал. Одиночество становится менее актуальным, но появляются новые формы социальной изоляции, когда некоторые люди предпочитают общаться с ИИ, а не с людьми. Развлечения на базе ИИ обеспечивают невероятно индивидуальный и уникальный опыт, сочетающий игры, истории и фильмы. Это не значит, что все станут интровертами и будут общаться только с искусственными интеллектами. В этом сценарии они все еще не являются разумными, и люди все равно захотят делать человеческие вещи с другими людьми.

А в работе с людьми ИИ может помочь раскрыть человеческий потенциал. ИИ-терапевты и ассистенты помогают людям, которые хотят самосовершенствоваться, делать это по-новому. Возможность использовать ИИ для решения задач, на которые в противном случае ушли бы годы, позволяет процветать новым видам предпринимательства и инноваций. Я уже общался с физиками и экономистами, которые могут проводить гораздо более целенаправленные исследования благодаря тому, что ИИ служит как источником вдохновения, так и способом передачи на аутсорсинг трудоемких и дорогостоящих задач по программированию и написанию грантов. Возможно, ИИ-компаньоны помогут всем нам достичь целей, которые раньше были недостижимы. И, наверное, хорошо, что это возможно, потому что при таком сценарии у всех нас, скорее всего, появится больше свободного времени.

В условиях экспоненциальных изменений ИИ, в сотни раз превосходящий GPT-4, начнет фактически заменять работу человека. И не только офисную работу, поскольку есть некоторые первые свидетельства того, что LLM могут помочь нам преодолеть барьеры, которые сделали создание рабочих роботов таким сложным. Роботы, работающие на основе ИИ, и автономные агенты ИИ, контролируемые людьми, потенциально могут резко сократить потребность в человеческом труде, одновременно расширяя экономику. Приспособление к такому сдвигу, если он произойдет, трудно себе представить. Это потребует серьезного переосмысления нашего отношения к работе и обществу. Сокращенная рабочая неделя, всеобщий базовый доход и другие изменения в политике могут стать реальностью по мере того, как потребность в человеческом труде будет со временем уменьшаться. Нам придется искать новые способы занять свободное время с пользой, ведь большая часть нашей нынешней жизни сосредоточена вокруг работы.