В чертогах марсианских королей

– Так все думают, пока не начинают пользоваться машинами сами, – ответила она. – Ты не понимаешь, насколько они глупы. Без программ компьютеры буквально ни на что не годны. Но вот во что я действительно верю, так это в то, что власть в будущем будет принадлежать людям, которым компьютеры подчиняются. Они уже захватывают власть. Именно поэтому я компьютерами и занимаюсь.

– Я не это имел в виду. Может быть, я не те слова выбрал.

Она нахмурилась.

– Клюга очень интересовала одна проблема. Он постоянно подсматривал, что делается в лабораториях, занимающихся разработками искусственного интеллекта, и много читал по неврологии. Я думаю, он пытался найти что-то общее…

– Между человеческим мозгом и компьютером?

– Не совсем так. Компьютеры представлялись ему нейронами. Клетками мозга. – Она показала рукой на свою машину. – Этой штуке или любому другому компьютеру до человеческого мозга как до звезд. Компьютер не может обобщать, делать выводы, категоризировать или изобретать. При хорошем матобеспечении может создаться впечатление, что он что-то все же делает, но это иллюзия. Давно уже существует предположение, что, если мы наконец создадим компьютер, где будет столько же транзисторов, сколько нейронов в человеческом мозге, у него появится сознание. Я лично думаю, что это чушь. Транзистор – это не нейрон, и квинтильон транзисторов ничем не лучше дюжины. Так вот, Клюг, который, похоже, придерживался такого же мнения, начал искать общие свойства у нейронов и однобайтовых компьютеров. Потому у него дома и полно разного потребительского барахла: все эти «Трэш-80», «Атари», «ТИ», «Синклеры». Сам он привык к гораздо более мощным машинам. А это для него игрушки.

– И что он узнал?

– Похоже, ничего. Восьмибитовая машина гораздо сложнее нейрона, но все равно ни один компьютер не выдерживает сравнения с человеческим мозгом. Впрочем, это не самое удачное сравнение. Я сказала, что «Атари» сложнее нейрона, но на самом деле их трудно сравнивать. Все равно что сравнить направление с расстоянием или цвет с массой. Они разные. Но есть одна общая черта.

– Какая?

– Связи. Опять же, тут все по-разному, но принцип взаимосвязанной сети один и тот же. Нейрон связан с множеством других нейронов. Их триллионы, этих связей, и то, как передаются по ним импульсы, определяет, что мы из себя представляем, что мы думаем и что помним. С помощью такого вот компьютера я тоже могу связаться с миллионами других. Эта информационная сеть на самом деле больше человеческого мозга, потому что она содержит больше данных, чем все человечество в состоянии осилить за миллион лет. Она тянется от «Пионера-10», который сейчас где-то за орбитой Плутона, до каждой квартиры, где есть телефон. С помощью этого компьютера ты можешь познакомиться буквально с тоннами данных, которые когда-то были собраны, но на которые некому было даже взглянуть из-за нехватки времени. Именно это интересовало Клюга. Старая идея «критической компьютерной массы», когда компьютер обретает сознание, но только он рассматривал эту идею под новым углом зрения. Может быть, тут важен не размер компьютера, а их количество. Когда-то компьютеров существовало всего несколько тысяч. Теперь их миллионы. Теперь их ставят даже в автомобили и в наручные часы. В каждом доме их несколько: от простейшего таймера в микроволновой духовке до видеоигр и компьютерных терминалов. Клюг пытался выяснить, возможно ли достижение критической массы таким путем.

– И к какому выводу он пришел?

– Я не знаю. Он только начинал работу.

– Критическая масса…

– О чем ты думаешь?

– На что это может быть похоже? Мне кажется, должен возникнуть колоссальный разум! Такой быстрый, такой всезнающий. Почти богоподобный.

– Может быть.

– Но… не захватит ли он над нами власть? Кажется, я опять вернулся к тому вопросу, с которого начал. Не превратимся ли мы в его рабов?

Она надолго задумалась.

– Я не думаю, что мы того стоим. Зачем ему это? И потом, как мы можем определить, что ему будет нужно? Например, захочет ли он, чтобы его обожествляли? Сомневаюсь. Захочет ли он «рационализировать поведение человека и устранить все эмоции»? Это скорее из какого-нибудь фантастического фильма пятидесятых годов. Можно говорить о сознании, но что этот термин означает? Должно быть, амебы тоже что-то осознают. Может быть, и растения. Возможно даже, каждый нейрон обладает каким-то уровнем сознания. Даже «чип» с интегральной схемой. Мы до сих пор не знаем, что такое наше собственное сознание. Мы пока не сумели пролить свет на этот вопрос, исследовать его до конца, узнать, откуда сознание берется и куда уходит, когда мы умираем. А уж применять человеческие мерки и оценки к подобному гипотетическому сознанию, зародившемуся в недрах компьютерной сети, и вовсе глупо. Я, например, совсем не представляю себе, как оно может взаимодействовать с человеческим сознанием. Не исключено, что он просто не будет обращать на нас внимания, так же как мы не замечаем отдельных клеток собственного организма или нейтрино, проходящих сквозь нас, или колебаний атомов в воздухе.