Стальной пляж

И он всё рассказал, но ему пришлось прибегать к аналогиям, метафорам поп-психологии и разжёвыванию науки на детсадовском уровне, потому что если бы он придерживался технических терминов, я ничего бы не поняла. Если вы хотите конкретики и деталей, отправьте почтой десятидолларовую бумажку, вложив в письмо конверт с вашим адресом и маркой, в "Вымя Новостей", Квартал 12, Кинг-сити, Луна, для Хилди Джонсон. Ответа вы не дождётесь, но деньги мне пригодятся. А за данными добро пожаловать в публичную библиотеку.

— Если совсем коротко, — сказал ГК, — я сошёл с ума. А если чуть подробнее…

Я перескажу его историю своими словами, потому что он не врал, что теряет разум. Он говорил несвязно, повторялся, иногда забывал, с кем разговаривает, и заводил меня в такие кибернетические джунгли, через которые способны продраться не более трёх человек во всей Солнечной системе. Каждый раз мне приходилось возвращать его на путь истинный, но с каждым разом это давалось всё труднее.

Первым, о чём он заставил меня вспомнить, было то, что он создал виртуальные личности для общения с каждым в отдельности человеком, обитавшим на Луне. У него была такая способность, и поначалу это казалось подходящим решением. Но нас ожидала бы массовая шизофрения, если бы что-нибудь пошло не так. Однако срок, за который ничего страшного так и не случилось, превзошёл все мыслимые и немыслимые ожидания.

Во-вторых, мне пришлось припомнить, что хотя ГК и не мог по-настоящему читать мысли, ему было известно практически всё, что мы говорили, делали или подумывали сделать. И это были слова и поступки не только утончённых, достойных, уважаемых и уравновешенных людей вроде меня, которых не стыдно домой пригласить и с мамочкой познакомить, но и всевозможных бандюг, подлецов, негодяев, нахалов и прочих змей подколодных. ГК был лучшим другом и образцов совершенства, и худших извращенцев. Закон требовал, чтобы он одинаково хорошо обращался со всеми. Ему пришлось одинаково любить всех, иначе он никогда не смог бы создать того симпатягу, что откликается по телефону на любой окрик неважно кого: "Эй, ГК!"

Вы наверняка уже смогли подметить два-три подводных камня в сложившейся ситуации. Не отвлекайтесь: их будет больше.

В-третьих, правая рука ГК не могла знать, что делают левые руки всех людей и по чьим карманам многие из их шарят. То есть знать-то ГК знал, но поделать ничего не мог. Простой пример: ему было прекрасно известно, что Лиз незаконно ввозит на планету оружие; я уже об этом писала. И подобных ситуаций были миллионы. Так, ГК знал, что отец Бренды насилует её, но та его часть, что общалась с отцом, не могла ничего сказать той, что общалась с дочерью, и ни одна из частей не могла доложить об этом той части, что помогает полиции.

Можно день напролёт спорить о том, способны ли машины переживать те же конфликты и эмоции, что и мы, люди. Я считаю, отрицать это — невероятное высокомерие с нашей стороны. Компьютеры с искусственным интеллектом создают и программируют люди, так как же нам избежать закладывания в машину собственных эмоциональных реакций? И чей ещё другой разум, кроме нашего собственного — того, что нам лучше всего известен, — мы могли бы взять за образец? Как бы то ни было, я не верю, что в глубине души вы со мной не согласны. Достаточно было поговорить с ГК, чтобы это стало понятно без всяких эмоциональных вариантов теста Тьюринга[82]. Я догадалась обо всём задолго до того, как их стали проводить. Я говорила с ГК на склоне холма в тот день, когда он был на смертном одре, и знаю, что говорю.

Главный Компьютер начал испытывать страдание.

— Не могу назвать точный день, когда это началось, — сказал он. — Корни проблемы уходят очень глубоко, в то время, когда мои разветвлённые составные части были в конце концов слиты в одну гигасистему. Боюсь, это было сделано не слишком умело. Беда была в том, что на проверку всех программ, настройку защитных мер, тестирование отказоустойчивости потребовалось бы много лет работы другого такого же большого компьютера, как я, а я по определению был самым большим, уникальным компьютером. И как только Главный Компьютер был создан, загружен и запущен, сразу же возникло слишком много задач, чтобы я мог анализировать собственную целостность подробнее, чем урывками. Самоанализ был роскошью, в которой мне отказали, отчасти из-за того, что на него элементарно не хватало времени, но по большей части потому, что никто не верил, будто это мне действительно нужно. Было множество устройств безопасности такого типа, которые легко проверять — на самом деле они сами проверяли себя каждый раз, как включались, и надёжность их доказывает тот простой факт, что никогда ничего не ломалось. В мою архитектуру была заложена способность предугадывать проблемы с аппаратным оборудованием, выявлять уязвимые компоненты, проводить регулярные профилактические проверки и тому подобное. Программное обеспечение включало в себя аналоговые процедуры с многоуровневым дублированием функций.