Технологии против человека

Машины никогда не смогут испытать этих чувств, даже если научатся идеально их имитировать. Безусловно, компьютерные программы уже могут измерить и считать сострадание с помощью методов распознавания лиц, а программное обеспечение, вероятно, может имитировать сострадание после рассмотрения триллионов вариаций мимики и лингвистических показателей.

Попытки сначала определить и затем спрограммировать такую человеческую характеристику, как сострадание или что-то такое же таинственное, как сознание, кажутся неправдоподобной и неосуществимой идеей в обозримом будущем. Но опять же: возникнет ли реальная опасность того, что такая имитация вполне сможет удовлетворять потребности большинства из нас?

Меня все больше беспокоит мысль о том, что рано или поздно нас может устроить, если у нас просто будет что-то похожее.

Поставить технологии на свое место

Я абсолютно уверен, что компьютеры, компьютерные программы, алгоритмы и роботы вряд ли когда-либо смогут развить сострадание и сочувствие, как у людей. Роботы и искусственный интеллект отлично могут функционировать в качестве помощников и прислуги, но конечно, никак не в качестве хозяев.

Действительно ли нужно пытаться использовать математические модели или машинный интеллект для оптимизации эмоциональных результатов? И действительно ли нужно в условиях машинного мышления пытаться применять лучшие технологии для того, чтобы решить социальные или политические проблемы – например, использовать государственные методы слежения, чтобы положить конец терроризму?

Сложные андроритмические ценности должны оставаться в сфере человеческих взаимоотношений, во-первых, потому что мы лучше формируем их детальное выражение, во-вторых, потому что непосредственное участие в этих проблемах является ключом к развитию эвдемонизма – более глубокого ощущения счастья.

Я часто задаюсь вопросом, будет ли экспоненциальный технологический прогресс обеспечивать экспоненциальное счастье для всех людей, а не только для 1 % – тех, кто будет создавать, владеть такими потрясающими чудо-машинами и получать от них прибыль. Добродетельной ли целью является создание совершенной человеческой машины, которая может быть освобождена от всех ее недостатков и неэффективности, чтобы мы могли наконец стать богами, что бы это ни значило?

Не знаю, как вы, но это не тот мир, который я бы хотел построить. Предложить нам последовать по этому пути – как играть в азартные игры с нашим будущим и потенциально отравлять благополучие наших детей и будущих поколений.

Счастье нельзя запрограммировать в машинах, автоматизировать или продать. Его нельзя скопировать, кодифицировать или тщательно изучить. Оно должно исходить от нас и расти внутри нас и между нами, и технологии нужны здесь, чтобы помочь нам – как инструмент. Мы биологический вид, который пользуется технологиями, а не вид, которому суждено быть (стать) технологиями.

Наконец, подумайте о следующем: само слово «счастье» происходит от слова викингов, обозначавшего удачу. Это также относится к понятию случайности, или случая. Апологеты технологий могут утверждать, что они устраняют негативные проявления случайности из человеческих жизней – а имя им легион, от болезней и нищеты до смерти. Однако при этом они могут систематически менять способность людей испытывать ощущение счастья на более глубоких уровнях, которые не зависят от поддающихся измерению обстоятельств. Да, давайте обязательно пользоваться технологиями, чтобы устранить риски для человечества на планете Земля. Но давайте не станем инструментами для наших инструментов и не отдадим свое сознание и суверенную волю кучке безделушек и дешевых острых ощущений, как невинные выходцы из какого-то Нового Света.

Глава 10. Цифровая этика

У технологий нет этики, но человечество зависит от них

Давайте произведем некоторые экспоненциальные расчеты. Если мы продолжим идти тем же путем, то всего за восемь или 12 лет – в зависимости от того, когда начнем считать, – общий технологический прогресс совершит скачок от сегодняшней точки разворота от четырех до 128. В то же время сфера нашей этики будет продолжать ограничиваться линейным, поэтапным и человеческим масштабом улучшения, от четырех до пяти или шести, если повезет, ситуация немного изменится, когда мы адаптируемся к новой структуре.

Даже если закон Мура в конечном итоге перестанет действовать для микрочипов, многие из технологических областей, от рабочих частот канала связи до искусственного интеллекта (ИИ) и глубинного обучения, по-прежнему будут расти как минимум экспоненциально и с комбинаторными эффектами – изменения усиливают друг друга¹⁸⁶.