Это всё квантовая физика! Непочтительное руководство по фундаментальной природе всего

Интуитивные представления о свободе воли и моральной ответственности, почерпнутые из размышлений об эволюции и развитии человека, тоже трудно примирить. Когда кошка царапает кресло, мы тут же виним в этом кошку и больше никого. Но если бы то же самое сделал маленький ребенок, многие из нас подумали бы: «Ай-яй-яй, куда только смотрят родители?!» Как можно надеяться распространить эти интуитивные представления на искусственный интеллект?

Если интуиция не поможет, особых вариантов у нас не остается, кроме как вернуться к первоосновам, то есть, помимо всего прочего, к физике.

Физика при жестком дедлайне

Если мы не можем полагаться ни на интуицию, ни на накопленный опыт, чтобы провести грань между сознательным и морально ответственным искусственным интеллектом и искусственным интеллектом бессознательным и морально нейтральным, придется нам опираться на идеи, под которыми есть более надежная основа.

И хотя физика может не предложить полного решения, она должна стать частью уравнения. Какая бы интерпретация квантовой механики в итоге ни оказалась верной, ясно одно: то, что значит быть, определяется развитием событий на квантовом уровне. Квантовая механика – это сцена, на которой развертывается само бытие, а следовательно, это и подразумеваемый фон для любых наших моральных выкладок.

Если прав Госвами, тогда возможно, что любой объект в мире обладает сознанием или является частью большего сознания. Лично я не думаю, что это так, но если он окажется прав, то нам, вероятно, уже сейчас стоит беспокоиться, что чувствуют создаваемые нами системы искусственного интеллекта.

Если прав фон Нейман, тогда возможно, что у людей наряду с некоторыми другими животными есть особый доступ к сознанию благодаря пока еще не открытому механизму, который к тому же дает нам способность вызывать коллапс квантовых систем, наблюдая их. Это тоже не кажется мне правдоподобным, но, если я ошибаюсь, нам нужно бросить значительно больше сил на то, чтобы понять, что это за механизм и как он работает, дабы соответствующим образом проектировать системы искусственного интеллекта.

Но если правы Эверетт или Бом, то одной физикой сознание не объяснить. Должен быть задействован еще один слой реальности – набор правил, определяющих, как обработка информации в физическом мире порождает чувственный опыт. Этот набор правил может оказаться чем угодно – панпсихизмом, дуализмом разума и тела или чем-то таким, о чем мы еще даже не задумывались.

Кроме того, Эверетт и Бом предлагают нам картины реальности, полностью исключающие свободу воли, что ставит перед нами самые что ни на есть фундаментальные вопросы: например, как нам перестроить свои законы и философию, чтобы они были применимы не только к биологическим, но и к искусственным субъектам?

Какая из этих интерпретаций правильная, никто не знает. Может, вообще никакая. Но ставки слишком высоки, чтобы притворяться, будто они, наоборот, ничтожны. Нам так или иначе придется научиться вдумчиво рассматривать теории, которые двадцать пять процентов физиков считают самоочевидными, а пятьдесят процентов – смехотворными, ведь других вариантов у нас просто нет. Иначе мы так и будем повторять ошибки прошлого, изображать Бора и душить на корню представления, которые нам не по душе, поскольку они не соответствуют нашим произвольным эстетическим предпочтениям и научной моде. В краткосрочной перспективе такой подход может породить несколько крутых вирусных твитов, но обречет нас на крайне унылое будущее.

Все это одновременно и ужасает, и вдохновляет: нам нужно решить эту задачу по физике в условиях жесткого дедлайна, поскольку наши технологические возможности начинают опережать философские. Нам нужно проделать большую работу по укоренению таких неоднозначных, нечетких областей, как этика, в более строгих вроде физики. И мы должны будем сделать это, не погрязнув в спорах об эстетике.

Простых ответов не будет

Наше путешествие мы начали с того, что люди задумались над своим местом в тварном мире. Мы увидели, как много квантовая физика может привнести в эти размышления, как сильно она их обогащает и почему это важно.

Однако главная, возможно, причина, по которой квантовая механика самопознания человека важна, состоит в том, что она определяет, как мы понимаем свою ответственность как творцов. Если мы действительно собираемся создавать ИИ с когнитивными способностями на уровне человека, вероятно, стоит время от времени сверяться с квантовым меню, чтобы убедиться, не упускаем ли мы из виду какие-то риски, которыми чревата наша деятельность.

Мне бы, конечно, очень хотелось предложить вам что-нибудь получше. Мне бы очень хотелось иметь возможность сказать: «Вообще-то нам не обязательно разбираться со всей этой ужасной неопределенностью. Вот интерпретация квантовой механики, которая действительно работает».