Машины как я

Судьба самоуправляемого автомобиля оказалась короткой, по крайней мере в первоначальном варианте, и его моральная состоятельность так и не смогла пройти проверку временем. Но ничто не доказало техногенную уязвимость нашей цивилизации сильнее, чем гигантские транспортные заторы конца семидесятых. В те годы автономный автотранспорт составлял семнадцать процентов от общего объема. Кто может забыть душегубку бескрайней пробки на улицах Манхэттена, получившей известность как «Манхэттенская пробка»? Из-за аномальной солнечной активности множество бортовых радаров одновременно вышли из строя. Улицы и авеню, мосты и тоннели оказались наглухо забиты автомобилями, и понадобилось несколько дней, чтобы разрулить этот бардак. А девять месяцев спустя подобное повторилось в Рурштадте, в Северной Европе, спровоцировав короткий экономический спад, породивший теории заговора. Подростки-хакеры, жаждущие беспредела? Или далекая враждебная, разрозненная нация с продвинутыми хакерскими приемами? А может – мое любимое, – производственно отсталый автопроизводитель, ярый ненавистник обжигающей новизны? Однако кроме нашего перетрудившегося солнца других виновников не нашли.

Мировые религии и великие литературные произведения ясно давали понять, что мы знаем, как быть хорошими. Мы выражали наши благородные стремления в поэзии, прозе и песнях, и мы знали, что делать. Проблема заключалась в том, чтобы претворить эти знания в жизнь – последовательно и в массовом порядке. Из временной смерти автономного автомобиля родилась мечта об искупительной добродетели роботов. Ее первичным воплощением стал Адам и ему подобные, как это подразумевало руководство пользователя. Предполагалось, что искусственный человек должен быть образцом добродетелей. Я никогда не встречу никого лучше его. Однако, если бы с Мирандой переспал мой друг, это было бы жестоко и безнравственно по отношению ко мне. Проблема была в том, что я купил Адама – он был моей дорогостоящей собственностью, и его обязательства передо мной, помимо общей полезности, были мне неясны. Чем раб обязан своему хозяину? Кроме того, Миранда не была «моей». Это было ясно. Я так и слышал, как она замечает, что у меня нет здравых оснований чувствовать себя преданным.

Но имелся еще один вопрос, который мы с ней пока не обсуждали. Программисты из автомобильной промышленности могли внести свой вклад в моральные ориентиры Адама. Но его личность сформировали мы с Мирандой. Я не знал, в какой мере его личность затрагивала или превосходила его этику. Насколько она обладала собственной волей? Идеально сформированная моральная система должна быть свободна от любых предрасположенностей. Но достижимо ли это? Закрепленная в железе, моральная система становилась не более чем сухим эквивалентом мысленного эксперимента «мозг в банке»[28], когда-то приводимого во всех учебниках по философии. А искусственный человек должен был осваиваться среди нас, несовершенных, падших нас, и приспосабливаться к нам. Руки, собранные в стерильных условиях, должны были погрузиться в грязь. Существовать в человеческом моральном измерении значило иметь тело, голос, модель поведения, память и желания, переживать конкретные вещи на личном опыте и испытывать боль. Идеально честное существо, оказавшееся в таком положении, вполне могло соблазниться Мирандой.

Всю ночь я представлял, как расправляюсь с Адамом. Я видел, как волоку его на веревке, чтобы утопить в мутной реке. Если бы только он не обошелся мне так дорого. Теперь он обходился мне еще дороже. Его близость с Мирандой не могла стать результатом борьбы между принципом и жаждой удовольствия. Его эротическая жизнь была симулякром. Он желал Миранду не больше, чем механическая посудомойка могла желать посуду. Но он или его моральный алгоритм поставил ее одобрение выше моего гнева. И в этом я винил Миранду, задавшую половину свойств его характера и потому ответственную за многие хитросплетения его натуры. Но в конечном счете я винил себя – за то, что вовлек ее в эту историю. Ведь мне хотелось «раскрывать» для себя Адама как нового друга – и вот же он, удивляет меня, негодяй. И через это я надеялся укрепить свою связь с Мирандой. Что ж, я думал о ней ночь напролет. Успех по всем статьям.

Я услышал шаги на лестнице. Две пары ног. Придвинув к себе чашку кофе, я раскрыл вчерашнюю газету и напустил на себя отвлеченный вид. Я собирался сохранить достоинство. В дверном замке повернулся ключ Миранды. Она вошла в кухню, Адам шел за ней, и я с видимой неохотой поднял взгляд от газеты. Я только что прочитал, что человеку по имени Барни Кларк было установлено первое постоянное искусственное сердце.