На заре новой эры. Автобиография отца виртуальной реальности

В какой-то момент, даже если применить автоматические моральные алгоритмы и получится, может все равно остаться необходимость обратиться к старому полубогу экономических поощрений. Существуют альтернативы нынешней экономике и социальным сетям. Например, как я уже предлагал, людям можно платить за создаваемый ими контент в Facebook и платить за контент от других, а Facebook может брать процент. (Мы знаем, что это может сработать, поскольку что-то подобное было уже опробовано в экспериментах вроде Second Life, которую я упоминал раньше.)

Несомненно, существуют и другие потенциальные решения, которые также стоит рассмотреть. Я выступаю за эмпирический подход. У нас должно хватать смелости пробовать разные решения, например платить людям за их данные, но также и смелости принимать результаты, даже если они нас разочаруют.

Мы не должны сдаваться.

Гуманное использование человеческих систем

Дело не в том, что невидимая рука всегда будет выгоднее воображаемого живого искусственного интеллекта или наоборот. Скорее уж людям придется перестать ожидать совершенства от любого из существующих полубогов, которых я обозначу более прямо как организационные системы со множеством участников.

В наш информационный век ценятся люди, у которых хорошо получается думать как компьютер, но не то чтобы этот склад ума был миру в диковинку. Это тот же склад ума, который всегда предпочитал соглашаться с системой, запускать программу; искать социалистического рая, абсолютной теократии или либертарианской колонии сторонников пуризма на плавучем острове, где никто не платит налогов, но остров все равно держится на плаву. Если вы способны думать как компьютерная программа, вы можете зарабатывать целое состояние при помощи компьютерных программ, которые сейчас управляют миром.

Чтобы выжить, человечество также должно ценить людей, которые процветают в неоднозначности и не клялись на крови в верности какому-то одному принципу организации. Религии, рынки, политические режимы, облачные алгоритмы, общественные формации, закон, принадлежность к группам, нации, образование – все это нужно нам, и ничто из этого не совершенно. У всех этих систем есть режимы разрушения, как их заложит инженер. Единственный способ выживания для нас как вида – думать о наших системах так же, как мы думаем о машинах и холодильниках. Даже самые надежные из них – даже облачные алгоритмы! – иногда нас подводят. Признать это – проблема для пуристов.

Если коммерческие структуры смогут когда-нибудь добиться лучшего баланса алгоритмов, как я предлагал, могут существовать и другие сдержки и противовесы между нашими системами, которые можно обозначить и изучить. Алгоритмы – самая молодая разновидность крупномасштабных систем, но это не значит, что все остальные вдруг потеряли значимость.

Многие ученые без конца твердят о том, что искусственный интеллект разрушит все прочие системы за три минуты, так что нам ничего не остается делать, кроме как наслаждаться моментом и ощущением собственного превосходства перед лицом неминуемого, если вы считаете себя нормальным человеком, а не «технарем». Но это отказ от собственной ответственности, особенно если вы инженер.

У нас замечательные системы, с которыми можно работать. Если мы не будем пренебрегать ценностями, которые оставило нам каждое из предыдущих поколений, мы можем построить достойное, стабильное высокотехнологичное общество, которое станет стартовой площадкой для приключений, которые мы себе и вообразить не могли, но мы, инженеры, должны хотя бы немного научиться скромности, чтобы туда попасть.

В этой финальной главе я предельно осторожен и предпочитаю не полагаться на предположения, сможет ли искусственный интеллект когда-либо стать «настоящим», то есть глубоко и всесторонне разумным; или даже обретет сознание для тех, кто, как и я, верит в то, что сознание реально. Приведенные выше аргументы работают и в отношении сценариев, когда в пределах обозримого будущего искусственный интеллект продолжит требовать от людей большие массивы данных, или же он может начать работать с небольшими объемами данных, из-за чего он, предположительно, станет более «автономным».

Например, предположение о том, что микроплатежи могут обеспечить стабильную, творческую и достойную альтернативу модели безусловного основного дохода, также будет иметь смысл, если искусственный интеллект будет меньше зависеть от больших объемов данных.