На заре новой эры. Автобиография отца виртуальной реальности

Кремниевая долина слишком упорно верит в биты. Сейчас ведутся разговоры о том, чтобы предложить потребителям, обычным людям, обрести псевдобессмертие в виртуальной реальности. Эту идею активно продвигает Рэй Курцвейл. А тем временем некоторые знаковые фигуры Кремниевой долины вкладывают огромные средства в безумные схемы, с помощью которых надеются обрести физическое, биологическое бессмертие.

Рождение религии

Когда речь заходит о чрезмерной вере в биты, худший противник – это искусственный интеллект (ИИ). Аргументы искусственного интеллекта были систематизированы как раз в то время, о котором я здесь рассказываю. Мы замечательно дискутировали о нем с друзьями.

Я высмеивал ИИ, а окружающие говорили о нем, как о религии, и вскоре порог был перейден: сейчас в ИИ преданно верят все, кто надеется, что он дарует бессмертие, поможет воссоединиться с покойными близкими, решит сразу все проблемы человечества и будет править нами с бесконечной мудростью. Было забавно наблюдать рождение религии[116].

Поскольку я наблюдал это собственными глазами, я понимаю, что искусственный интеллект – лишь старый и наивный мысленный эксперимент, эффективный способ привлекать инвестиции, неожиданно разросшийся до причудливой мировоззренческой системы, которая работает с куда меньшей отдачей[117]. В то же время, поскольку вера в искусственный интеллект стала искренней, я должен переключиться в режим свободы вероисповедания и толерантности.

Однако религиозная толерантность должна работать в обе стороны. Я не верю, что биты имеют какое-либо значение сверх того, что им приписывают люди, и хочу пользоваться свободой в исследовании воплощений общества будущего, основанного на этой предпосылке. Но некоторые люди, верящие в искусственный интеллект, превращаются в фанатиков, не способных задуматься о существовании иной точки зрения; толерантностью там и не пахнет.

Вернемся в 1990 год, в ресторанчик «Хунань».

Один инженер-разработчик аппаратного обеспечения сказал, поедая пельмени:

– Ну ладно, Джарон, я согласен с тобой по поводу этой штуки с искусственным интеллектом. Эти искины пугают меня до усрачки. Мне снятся кошмары о том, как компьютеры эволюционировали и просто-напросто пожрали все человечество – взяли и смели его со своего пути. Не верю я во все эти россказни про то, как они с нами подружатся или будут держать нас в качестве домашних питомцев[118].

– О боже, это НЕ согласие со мной по поводу искусственного интеллекта. Бояться искусственного интеллекта даже хуже, чем любить его. Если ты его боишься, значит, ты в него веришь. Если запугивать людей дьяволом, религия не просто повсеместно распространится, но и станет весьма нетерпимой. Когда люди испуганы, их мышление становится ограниченным.

– Дьявола не существует, а вот компьютеры реальны.

– А что, если искусственный интеллект всего лишь фантазия, которая нам мерещится в нами самими же созданных битах? Что, если это такой способ избежать ответственности?

– Об этом спорят десятки лет. Когда люди не смогут отличить искусственный интеллект от человеческого, тогда он и станет настоящим. Тест Тьюринга и все такое.

И тут бородатый хакер, который до этого был слишком увлечен поеданием лапши, сказал:

– У него и на это есть ответ.

– Да, есть. Вы считаете, что люди – это такие фиксированные суммы, которые только и ждут момента, когда искусственный интеллект их догонит и перегонит. А что, если люди динамичны, и, может быть, даже более динамичны, чем компьютеры? Что, если ты сам изменишься в окружении компьютеров? Что, если ты поглупеешь, лишь бы компьютер казался умным?

– Да такого никогда не произойдет.

Нынешний Джарон должен вмешаться и защитить себя тогдашнего, рассказав несколько историй о недавних временах. Это все же произошло! Сейчас, когда программирование определяет нашу жизнь, мы глупеем ради того, чтобы компьютеры выглядели умными.

Вот, к примеру, Netflix.