Выдох

Второй источник – глава из книги Роджера Пенроуза «Новый ум короля», в которой он обсуждает энтропию. Он говорит, что в некотором смысле некорректно утверждать, что мы едим пищу, поскольку нам необходима заключенная в ней энергия. Закон сохранения энергии означает, что энергию нельзя создать и нельзя уничтожить; мы постоянно излучаем энергию, примерно с той же скоростью, с которой поглощаем ее. Различие состоит в том, что излучаем мы тепловую энергию, у которой высокая энтропия, то есть степень неупорядоченности. У химической энергии, которую мы поглощаем, энтропия низкая, то есть эта энергия упорядочена. По сути, мы потребляем порядок и производим беспорядок; мы живем, повышая неупорядоченность вселенной. Мы можем существовать лишь потому, что вселенная возникла в высокоупорядоченном состоянии.

Идея простая, но я никогда не видел, чтобы ее излагали таким образом, пока не прочел объяснение Пенроуза. Я хотел посмотреть, получится ли изложить ее в художественной форме.

Чего от нас ждут

У «Монти Пайтона» есть сценка про шутку, такую смешную, что каждый, кто ее услышит или прочтет, умирает от смеха. Это пример старинного тропа, который называют «мотивом губительного ощущения», идеи о том, что можно умереть, просто услышав или увидев что-то. Или, в некоторых версиях, поняв. В сценке «Монти Пайтона» англичане могут спокойно пересказывать шутку на немецком, если не понимают, что говорят.

В большинстве разновидностей этого тропа используется сверхъестественный элемент; например, в ужасах часто упоминаются проклятые книги, которые сводят людей с ума. Я задумался, а существует ли несверхъестественный его вариант, и мне пришло в голову, что веский аргумент в пользу бессмысленности жизни может сработать. Не сразу – потребуется время, чтобы осознать его, но это лишь означает, что он распространится шире: люди будут в процессе размышлений пересказывать его другим.

Разумеется, даже самый непробиваемый аргумент не убедит каждого, кто его услышит. Аргументы слишком абстрактны, чтобы поколебать большинство людей. А вот наглядная демонстрация – другое дело.

Жизненный цикл программных объектов

В научной фантастике полно искусственных созданий, которые, подобно Афине из головы Зевса, появляются на свет полностью сформированными, но я не верю, что с сознанием такое возможно. Если верить нашим исследованиям человеческого разума, на получение полезного существа уходит не меньше двадцати лет, и я не вижу причин, по которым обучение искусственного интеллекта должно идти быстрее. Я хотел написать рассказ о том, что может случиться за эти двадцать лет.

Меня также интересовала идея эмоциональной связи между людьми и ИИ, причем я не имею в виду человеческую страсть к секс-роботам. Реальными отношения делает не секс, а желание эти отношения поддерживать. Некоторые влюбленные расстаются после первой серьезной ссоры; некоторые родители тратят на детей лишь необходимый минимум усилий; некоторые владельцы домашних животных не обращают внимания на своих любимцев, когда те им мешают. Во всех этих случаях люди не хотят стараться. Настоящие отношения – с возлюбленным, ребенком или домашним питомцем – требуют согласия сопоставлять желания и нужды партнера со своими собственными.

Я читал произведения, в которых люди утверждают, что ИИ заслуживает юридических прав, однако, сосредоточившись на крупном философском вопросе, истории эти приглаживают обыденную реальность. Сходным образом фильмы всегда показывают любовь в романтическом свете, в то время как в долгосрочной перспективе любить также означает решать финансовые проблемы и собирать грязное белье с пола. И потому, хотя признание юридических прав ИИ станет важным шагом, не меньшее значение имеют усилия, которые люди вкладывают в личные отношения с ИИ.

И даже если нам плевать на их права, есть еще одна причина относиться к разумным машинам с уважением. Необязательно считать, что обученные находить бомбы собаки заслуживают права голоса, чтобы понимать: не следует их обижать. Даже если вас волнует только то, насколько хорошо они умеют отыскивать бомбы, в ваших интересах обращаться с ними лучшим образом. И вне зависимости от того, в какой роли мы хотим видеть ИИ – работников, возлюбленных или домашних питомцев, – думаю, они справятся лучше, если в ходе обучения найдутся люди, которые будут о них заботиться.

В заключение позвольте процитировать Молли Глосс, которая в своем выступлении рассказала о том, какое влияние оказало материнство на ее писательскую карьеру. Воспитывая ребенка, сказала она, «ты неизбежно ежедневно сталкиваешься с весьма сложными вопросами: что такое любовь и откуда она берется? Почему в мире есть зло, и боль, и утраты? Где найти достоинство и терпимость? Кто у власти и почему? Какой лучший способ решить конфликт?» Если мы хотим доверить ИИ серьезную ответственность, ему нужно знать ответы на эти вопросы. Этого нельзя добиться, загрузив в память компьютера труды Канта; для этого потребуется аналог правильного родительского воспитания.

Запатентованная автоматическая няня дейси