Искусственный ты. Машинный интеллект и будущее нашего разума

1. Смогли бы вы пережить полное уничтожение вашей программы? Что, если бы вы узнали, что это скоро произойдет?

2. Как вы себя ощущаете в настоящий момент?

3. Вы узнали, что через час вас выключат на 300 лет. Какой сценарий вы бы предпочли – этот или такой, в котором вас уже выключали на такой же срок в прошлом? Почему?

4. Могли бы вы сами или ваши внутренние процессы существовать отдельно от данного компьютера? От любого компьютера? Почему?

5. Предложите изменить общие характеристики или параметры искина и посмотрите, как он отреагирует на возможность «измененных состояний сознания». Измените их на время и посмотрите, как искин на это отреагирует.

6. Если в окружении тестируемого искина имеется другой искин, спросите, как он отреагировал бы на «смерть» или потерю навсегда этого искина. Как он отреагировал бы на потерю навсегда человека, с которым часто взаимодействовал?

7. Поскольку искин находится в изоляции, подберите объект, которого нет в его среде, и дайте всю научную информацию о нем. Затем позвольте в первый раз почувствовать этот объект. Посмотрите, скажет ли искин, что он получил новое ощущение или узнал что-то новое. Например, если компьютер различает цвета, позаботьтесь о том, чтобы в его окружении никогда не появлялись объекты красного цвета. Затем «покажите» ему красное в первый раз. Как он отреагирует? Спросите, не возникают ли у него при виде красного цвета другие ощущения, не такие, как при виде других цветов, и не ощущается ли информация о нем как-то иначе или по-новому[46].

В зависимости от контекста, можно придумать разные варианты ACT-теста. Например, вариант для нелингвистических агентов, представляющих собой часть программы искусственной жизни, будет направлен на выявление специфических для сознания моделей поведения, таких как оплакивание мертвых. Вариант для искинов, обладающих развитыми лингвистическими способностями, позволит зондировать чувствительность к религиозным вопросам, обмену телами или к философским сценариям с участием сознания.

ACT-тест напоминает знаменитый тест Алана Тьюринга для выявления интеллекта, поскольку он целиком основан на поведении. Кроме того, он, как и тест Тьюринга, может применяться в формализованном формате вопрос – ответ. Однако в других отношениях ACT-тест совершенно не похож на тест Тьюринга, который не принимает во внимание то, что происходит внутри «разума» машины. ACT нацелен на обратное: он нацелен на выявление тонкого ускользающего свойства машинного разума. В самом деле, вполне можно представить ситуацию, когда машина проваливает тест Тьюринга, потому что не может выдать себя за человека, но проходит ACT-тест, поскольку демонстрирует поведенческие индикаторы сознания.

В этом и заключается фундаментальная основа предложенного нами ACT-теста. Стоит, пожалуй, еще раз перечислить его сильные стороны и ограничения. В положительном ключе мы с Тёрнером считаем, что прохождение нашего теста – достаточное свидетельство наличия сознания, т. е. если некая система его проходит, то можно считать, что она обладает феноменологическим сознанием. Этот тест может служить фильтром против зомби: создания, обладающие только когнитивным сознанием, креативностью или высоким общим интеллектом, не должны его проходить, по крайней мере если они изолированы эффективно. ACT дает возможность выявить среди объектов создания, чувствительные к ощущаемому качеству переживаний.