На заре новой эры. Автобиография отца виртуальной реальности

– Ты напрашиваешься на то, чтобы я снова срезал тебя аргументом о круге сопереживания. Если ты чрезмерно расширишь свой круг сопереживания, ты потеряешь компетенцию и никому не поможешь. Ты выставляешь себя дураком, помогая идеальным маленьким существам, которых я называю «суррогатами уникальности». Это примерно как если бы люди перестали чистить зубы, потому что не хотят убивать бактерий.

За столом снова недовольно загудели.

– Приводить такие аргументы в споре нечестно. Думаю, по-настоящему тебя расстроило то, что тебя вызвали в суд по поводу виртуальной поддержки эмбрионов.

Нынешний Джарон перебивает: «До этой истории мы доберемся в следующей главе».

Джарон из 1990 года сказал:

– Парни, подумайте над тем, как все это воспримут остальные люди, далекие от технологий. Можете себе представить волшебников, которые обсуждают, как они создадут высшие формы жизни, а обычные люди или морально устареют, или будут выполнять роль домашних питомцев? Не считаете, что из-за этого люди утратят доверие к современному миру? Они точно нас не возненавидят? Не станут ли они легкой добычей шарлатанов, которые убедят их в том, что наука им враждебна? Разве не это глобальная цель всей инженерной науки – служить людям, далеким от технологий?

Пожалуйста, помните об этом, читая «размышления» о том, что роботы заслуживают сочувствия: у тех, кто пишет о технологии, есть дурная привычка формулировать «глобальные идеи», которые служат текущим интересам крупных технологических компаний. Так, было много разговоров о вреде авторских прав, когда компания Google создавала свое беспрецедентно огромное состояние, перепахивая законы об авторском праве. Точно так же много статей и постов, приветствующих конец приватности и провозглашающих ценность коллектива, появилось, когда Facebook начала осваивать рынок цифровых удостоверений личности[121].

– Если, ну ладно, когда гигантские роботы или сверхразумные потоки наночастиц решат, что ты не стоишь того, чтобы поддерживать твое существование, им будет абсолютно все равно, что ты думаешь. Тебя просто уничтожат. И тогда ты не сможешь рассуждать, реальны они или нет.

– Вот теперь ты меня бесишь. Помнишь морскую свинку, которая управляла огнеметом во время представления Survival Research? Было совершенно не важно, осознавало ли это животное, что оно делает. Чтобы увидеть представление, нужно было подписать соглашение о том, что ты не будешь ни подавать в суд на людей, которые посадили морскую свинку на место пилота, ни преследовать каким-либо образом само животное.

Единственное различие между отношением к ИИ как к губительной машине, которая уничтожит все человечество, и восприятием части специалистов в области технологий и военных как полных профанов, заключается в том, что вторая интерпретация обоснована.

Сорок седьмое определение VR: наука всеобъемлющей иллюзии.

Пока вы верите в искусственный интеллект, вы ослабляете свою веру в ценность людей и их способность действовать. Вы отменяете самих себя и всех окружающих.

Я понимаю, как это должно выглядеть со стороны. Разработчик виртуальной реальности утверждает, что виртуальная реальность – наилучший подход к цифровой информации. Он отрицает искусственный интеллект, социальные сети, даже Всемирную паутину! А не хочет ли он нам сказать, что его разработка самая лучшая? А не говорят ли все остальные то же самое?

Я всего лишь человек. Не могу утверждать, что свободен от предубеждений.