Кому принадлежит будущее?

Вдвойне смущает, что, даже если бы Кремниевая долина могла продавать искусственный интеллект потребителям, наша промышленность определенно не стала бы применять те же автоматизированные технологии к некоторым отраслям. Выбор элементов дизайна, скажем, нового смартфона кажется слишком важной игрой. Инженеры не вполне готовы поверить в свои умные алгоритмы в достаточной мере, чтобы противопоставить их новому главе Apple или еще кому-то, способному оценить тонкости проектирования и дизайна.

Но ожидается, что все остальные, усыпленные концепцией искусственного интеллекта, умнеющего не по дням, а по часам, будут доверять алгоритмам, которые получат доступ к выбору наших эстетических пристрастий, успеху в учебе, кредитному риску владельца дома или учреждения. Если это произойдет, все закончится тем, что мы будем превратно истолковывать как способности наших машин, так и свои собственные. Вместо этого мы должны принять на себя ответственность за каждую задачу, которую даем машине, и дважды проверять каждый вывод, предлагаемый алгоритмом, точно так же как оглядываемся по сторонам, переходя дорогу на перекрестке, даже если горит зеленый свет.

Когда мы думаем о компьютерах как о пассивных, инертных инструментах, действующих вместо людей, наградой нам служит более ясный, менее идеологизированный взгляд на происходящее – как с машинами, так и с нами самими. Так почему же, если отбросить в сторону театральный эффект привлекательности для потребителей и репортеров, результаты подобных проектов так часто должны быть представлены в духе Франкенштейна?

Ответ: потому что программисты – люди, и их точно так же приводит в ужас происходящее с людьми, как и всех остальных. Мы, технологическая элита, ищем новый способ мышления, который поможет нам, например, противостоять смерти. Это помогает объяснить привлекательность таких мест, как Университет Сингулярности. Это авторитетное учреждение, основанное в Кремниевой долине, учит примерно следующему: когда-нибудь, в не столь далеком будущем, интернет внезапно превратится в единый сверхразумный искусственный интеллект, бесконечно умнее каждого из нас в отдельности и всех нас, вместе взятых; он очень быстро станет живым существом и захватит мир, потому что люди даже не успеют понять, что происходит.

Некоторые считают, что новый разумный интернет предпочтет убить всех нас; другие – что он весьма великодушно оцифрует нас, как Google оцифровывает старые книги, чтобы мы могли жить вечно, как алгоритмы внутри глобального мозга. Да, выглядит как сюжет очередного фантастического кино. Да, в такой прямолинейной формулировке это звучит безумно. Но эти идеи высказываются в Кремниевой долине повсеместно; для многих наиболее влиятельных технических специалистов это основополагающие принципы, а не развлечение.

Совершенно очевидно, что мы не можем рассчитывать на появление некоего сенсора, обнаруживающего душу, который подтвердит, что сознание человека стало бессмертным и виртуальным. И на сегодняшний день у нас точно нет такого сенсора, который подтвердил бы метафизические идеи, касающиеся людей. Все мысли о сознании, душе и тому подобном завязаны на веру, подталкивающую к интересному выводу: мы наблюдаем становление новой религии, нашедшей выражение в технокультуре.

Однако я хотел бы отметить, что сегодня в мире чересчур много путаницы и возмущения в отношении границ религии и современности, будь то недоверие к научной точке зрения среди исламских и христианских фундаменталистов или даже ощущение неловкости, которое часто идет рука об руку с прогрессом, когда дело касается, например, изучения изменений климата или исследований стволовых клеток.

Если технологические специалисты создают собственную ультрасовременную религию, говоря людям смиренно подождать, пока их душа морально устареет, мы в итоге придем к тому, что противостояние усилится. Но если технологии представить без всей этой метафизической нагрузки, возможно ли, что современные люди будут реже ощущать неловкость?

Технология по сути своей – услуга. Технологические специалисты работают, чтобы мир стал лучше. Наши изобретения могут облегчить нагрузку, снизить уровень бедности и страданий, а иногда привнести в мир новые разновидности прекрасного. Мы можем предоставить людям больше возможностей поступать в соответствии с нормами нравственности, потому что с развитыми медициной, сельским хозяйством и жилищными условиями люди могут легко позволить себе быть добрее, чем те, кто болен, замерзает и голодает.

Но цивилизованность и совершенствование людей – все еще вопрос выбора. Поэтому ученые и инженеры должны представлять технологии так, чтобы не затруднять этот выбор.

Мы приносим людям максимальную пользу, когда наши религиозные концепции существуют отдельно от нашей работы.

Цифровая и доцифровая теократия