2062: время машин

Эта странная экзотичная форма интеллекта напоминает нам, что ИИ может иметь совсем другой разум. Даже если нам удастся создать сознательный ИИ, он все равно может быть очень искусственным по сравнению с нашим. И это опять же может быть крайне полезно с этической точки зрения.

Коровы, свиньи и многие другие одомашненные животные тоже обладают определенной степенью разумности и сознательности. Однако частично потому, что они так на нас непохожи, мы предпочитаем не замечать, как неоднозначно мы с ними обходимся. Точно так же мы, возможно, будем вести себя с искусственными интеллектом. Так, как ни за что не повели бы себя по отношению к человеку.

Серьезные проблемы

Сегодняшние машины не чувствуют боли. Это не кажется удивительным, ведь они не имеют сознания, а боль тесно связана с этим свойством. Права человека можно представить как своеобразные способы не допускать причинения боли и страданий. То есть если машины не чувствуют боли, то они не должны иметь никаких прав?

С технологической точки зрения умение ощущать боль может оказаться полезным для машин в 2062 году. Должна ли это быть реальная боль или искусственная – вопрос, который остается открытым. Боль имеет внушительную эволюционную историю и, похоже, пошла на пользу не только людям, но и другим животным. Она может помочь роботам быстрее учиться на собственных ошибках. Мы убираем руку от огня не потому, что осознаём ущерб, который он нам причиняет, а потому, что нам становится очень больно. Возможно, роботам тоже не помешали бы подобные механизмы.

Однако наделение машин способностью чувствовать боль может иметь неоднозначные последствия. Они смогут страдать, а потому заслуживать прав, которые бы защищали их от этого. Это может ограничить сферу их применения, так как невозможно будет заставлять их выполнять грязную или опасную работу. К тому же, вместе со способностью ощущать боль мы должны будем дать им страх, который часто предваряет боль и не дает получить травму. Но и это еще не всё. Почему бы не наделить их другими человеческими эмоциями, такими как желание, счастье, интерес, удивление, недоумение или даже печаль?

Человек ведет эмоционально насыщенную жизнь. Эмоции, конечно же, тесно связаны с интеллектом. В большинстве случаев именно эмоции управляют нашим поведением. Именно они дают нам такое важное эволюционное преимущество: удивление помогает нам распознать нечто новое и потенциально опасное, а любопытство – совершать открытия и править миром. Хотим ли мы поделиться этими преимуществами с машинами?

Сегодня они не способны испытывать эмоции. Однако процесс ознакомления их с основами человеческих эмоций уже начался. Они могут, к примеру, определить агрессивность электронного письма. Это поможет им взаимодействовать с нами в долгосрочных отношениях.

Фильм «Она» в этом смысле попал в яблочко. В 2062 году ИИ будет действовать в качестве операционной системы. Мы постепенно придем к тому, чтобы взаимодействие между нами и ИИ велось в речевой форме. Исчезнут клавиатуры, информация начнет поступать к нему и выводиться обратно только с помощью речи. Этот диалог будет происходить везде: в разных комнатах квартиры, в машине, в офисе.

Для того чтобы сделать это общение более увлекательным, разработчики, вероятно, решат наделять машины собственной эмоциональной жизнью. Будут ли это реальные или поддельные эмоции – все еще неясно. Однако тот факт, что компьютеры, с которыми нам предстоит взаимодействовать в 2062 году, будут способны чувствовать, не вызывает сомнений.

Марвин, параноидальный робот из романа «Автостопом по галактике» Дугласа Адамса, очень здорово выразил эту мысль: «Ну и, конечно, у меня болят все диоды с левой стороны…».

Кроме болящих диодов, он также отличался некоторой депрессивностью:

Артур Дент: [Земля] была прекрасным местом.

Марвин: А там были океаны?

Артур Дент: О да! Великолепные огромные раскатистые океаны.

Марвин: Терпеть их не могу[45].

Эти вполне человечные черты сделали Марвина столь любимым читателями героем романа. К 2062 году мы можем рассчитывать на то, что подобные эмоции будут испытывать многие машины.

Проблема свободы воли

Даже в том случае, если сознание не станет такой большой проблемой для ИИ, нам придется обратиться к другому, не менее сложному, философскому вопросу. Это проблема свободы воли. ИИ освещает эту знакомую проблему совершенно с другого угла. Компьютеры – детерминированные машины. Они следуют четким инструкциям. Вероятно, цифровые приспособления (в частности, компьютеры) – наши самые детерминированные изобретения.