На заре новой эры. Автобиография отца виртуальной реальности

Мой ответ не менялся, когда мне говорили, что когда-нибудь алгоритмы искусственного интеллекта будут сочинять идеальную музыку, писать идеальные книги или снимать идеальные фильмы. Эта предпосылка изначально ошибочна.

– Но что, если людям это понравится? Ты говоришь так, как будто ты самый главный, но что, если кому-то нравятся виртуальные сексуальные партнеры, книги и музыка, созданные алгоритмами? Ты судишь по себе! Мы все имеем право на собственные вкусы.

– Мы стремимся быть хорошими инженерами, так? Я говорю о том, чтобы послать к черту петлю обратной связи, которая позволяет нам быть хорошими инженерами, когда мы воспринимаем машины как людей.

– Ты усложняешь простой вопрос.

– Нет, ты подумай об этом. Когда ты допускаешь возможность веры другого человека в индивидуальность, в то, что другой человек – это личность, в игру вступает уважение. Нельзя обойти его и переделать людей. Это фашизм. Тебе придется позволить людям изобретать что-то самим, даже если они тебя раздражают. И зачастую они действительно довольно противные, но именно за это мы и любим человечество, ведь так? За непредсказуемость, за разнообразие. Если ты решишь относиться к компьютерам как к людям, ты станешь относиться к компьютеру с тем же пиететом и потеряешь опору, на которой держится проектирование компьютеров. Ты больше не сможешь их улучшать. – Может быть, пора перестать уже быть такими брезгливыми и признать, что людей нужно переделать.

– О боже, нет.

– Не представляю, как создать ноосферу, не принимая того, что людей придется переделать. Хотя бы немного!

– Не думаю, что эта установка поможет нам быстрее создать ноосферу. Что не так с Первой директивой из «Звездного пути»?[120] Пусть цивилизации возникают сами, без чьей-то навязанной инициативы сверху. Тогда будут и глубина, и разнообразие. Куда спешить? – Звучит так, как будто мы – продвинутые инопланетяне, которые решают, что им делать с Землей. – За столом раздался одобрительный гул голосов. Возможно, именно ими мы и были.

Тощий, как жердь, парень, выбиравший мелкие косточки из целой рыбины, решил, что тему разговора лучше поменять:

– Можешь твердить, что искусственный интеллект невозможен, только потому, что его еще не существует. Когда он заработает, доказательства будут ошеломляющими.

Бородатый, у которого в бороде запуталась лапша, предостерег его:

– Осторожно, а то Джарон сейчас разразится проповедью о «разоблачении незрелых тайн».

– Думаю, я уже достаточно вас этим замучил. Нельзя ли просто остановиться на том, что всех нас может удивить ход развития событий, и никому не стоит утверждать, что он знает, что произойдет потом?

– Это аксиома. Закон Мура гласит, что компьютеры станут в миллионы раз мощнее, а потом еще и еще. Они превзойдут человеческий мозг. Они будут заслуживать собственных прав. И они потребуют этих прав.