Это всё квантовая физика! Непочтительное руководство по фундаментальной природе всего

Насколько я могу судить, не стоит. Стоит ожидать, что ИИ будет подбираться к сознанию с совершенно иной стороны – не имеющей отношения к нашему опыту эволюции или развития человека. В конце концов, мы быстро создаем системы ИИ со все более масштабными искусственными мозгами, обученными на все большем объеме данных. С таким процессом люди еще никогда не сталкивались, никогда его не изучали. Если где-то на этом пути натянута растяжка, едва ли мы ее заметим, если будем искать «общепринятые» признаки сознания, опираясь на свой нынешний опыт.

То же самое, кстати, справедливо и для свободы воли. Большинство людей не думает, будто бездушные химические соединения обладают свободой воли, однако считает, что у человеческих существ она все-таки есть, и поэтому должно быть какое-то эволюционное объяснение, как она появилась, постепенно или внезапно, при переходе от молекул к клеткам, животным и людям. Точно так же мы можем представить себе постепенный переход, происходящий в процессе развития человека, – от сперматозоидов и яйцеклеток к морально ответственным взрослым.

Интуитивные представления о свободе воли и моральной ответственности, почерпнутые из размышлений об эволюции и развитии человека, тоже трудно примирить. Когда кошка царапает кресло, мы тут же виним в этом кошку и больше никого. Но если бы то же самое сделал маленький ребенок, многие из нас подумали бы: «Ай-яй-яй, куда только смотрят родители?!» Как можно надеяться распространить эти интуитивные представления на искусственный интеллект?

Если интуиция не поможет, особых вариантов у нас не остается, кроме как вернуться к первоосновам, то есть, помимо всего прочего, к физике.

Физика при жестком дедлайне

Если мы не можем полагаться ни на интуицию, ни на накопленный опыт, чтобы провести грань между сознательным и морально ответственным искусственным интеллектом и искусственным интеллектом бессознательным и морально нейтральным, придется нам опираться на идеи, под которыми есть более надежная основа.

И хотя физика может не предложить полного решения, она должна стать частью уравнения. Какая бы интерпретация квантовой механики в итоге ни оказалась верной, ясно одно: то, что значит быть, определяется развитием событий на квантовом уровне. Квантовая механика – это сцена, на которой развертывается само бытие, а следовательно, это и подразумеваемый фон для любых наших моральных выкладок.

Если прав Госвами, тогда возможно, что любой объект в мире обладает сознанием или является частью большего сознания. Лично я не думаю, что это так, но если он окажется прав, то нам, вероятно, уже сейчас стоит беспокоиться, что чувствуют создаваемые нами системы искусственного интеллекта.

Если прав фон Нейман, тогда возможно, что у людей наряду с некоторыми другими животными есть особый доступ к сознанию благодаря пока еще не открытому механизму, который к тому же дает нам способность вызывать коллапс квантовых систем, наблюдая их. Это тоже не кажется мне правдоподобным, но, если я ошибаюсь, нам нужно бросить значительно больше сил на то, чтобы понять, что это за механизм и как он работает, дабы соответствующим образом проектировать системы искусственного интеллекта.

Но если правы Эверетт или Бом, то одной физикой сознание не объяснить. Должен быть задействован еще один слой реальности – набор правил, определяющих, как обработка информации в физическом мире порождает чувственный опыт. Этот набор правил может оказаться чем угодно – панпсихизмом, дуализмом разума и тела или чем-то таким, о чем мы еще даже не задумывались.

Кроме того, Эверетт и Бом предлагают нам картины реальности, полностью исключающие свободу воли, что ставит перед нами самые что ни на есть фундаментальные вопросы: например, как нам перестроить свои законы и философию, чтобы они были применимы не только к биологическим, но и к искусственным субъектам?

Какая из этих интерпретаций правильная, никто не знает. Может, вообще никакая. Но ставки слишком высоки, чтобы притворяться, будто они, наоборот, ничтожны. Нам так или иначе придется научиться вдумчиво рассматривать теории, которые двадцать пять процентов физиков считают самоочевидными, а пятьдесят процентов – смехотворными, ведь других вариантов у нас просто нет. Иначе мы так и будем повторять ошибки прошлого, изображать Бора и душить на корню представления, которые нам не по душе, поскольку они не соответствуют нашим произвольным эстетическим предпочтениям и научной моде. В краткосрочной перспективе такой подход может породить несколько крутых вирусных твитов, но обречет нас на крайне унылое будущее.

Все это одновременно и ужасает, и вдохновляет: нам нужно решить эту задачу по физике в условиях жесткого дедлайна, поскольку наши технологические возможности начинают опережать философские. Нам нужно проделать большую работу по укоренению таких неоднозначных, нечетких областей, как этика, в более строгих вроде физики. И мы должны будем сделать это, не погрязнув в спорах об эстетике.

Простых ответов не будет