Книга Предтеч

"В то самое мгновение, когда в результате того или иного процесса возникнет и осознает себя, как таковую, система более интеллектуальная, чем человек, человечество перестанет быть движущей силой прогресса, потому что принципиально невозможен контроль за действиями, смысл которых слишком сложен для понимания, и тем более принципиально неконтролируемыми будут мотивации и действия сверхинтеллектуальных систем комбинированного или однородного устройства. Это не обозначает немедленной или даже скорой гибели человечества, как биологического вида: просто в структуре цивилизации, которая возникнет после этого "момента "0" человечество станет архаичным пережитком, а прогресс цивилизации по крайней мере перестанет быть прогрессом человеческой цивилизации."

"Разумеется, целью этой статьи не является столь банальный, более подходящий для дешевого научно-фантастического прогноз. Цель в том, чтобы продемонстрировать существование механизма, делающего почти полностью неизбежным осуществление этого прогноза. Опыт истории учит, что невозможно наложить мораторий на те или иные пути исследования, если они реализуемы принципиально и обещают какую-то выгоду. Одна из договаривающихся сторон, начав проигрывать в "игре по правилам", неизбежно найдет предлог для одностороннего разрыва соглашения, а если даже подобного не произойдет, то не исключено появление новых игроков, не связанных установленными правилами игры, возможно, - с полукриминальным происхождением исходного капитала, которые не преминут воспользоваться любой открывающейся возможностью для эффективного проникновения на новое поле деятельности. К сожалению, практически нет надежды на то, что все возможные фигуранты рынка высоких технологий по принципиальным соображениям откажутся от реализации проектов с финитивным и трансфинитивным исходом, точно так же нет особых сомнений в том, что технические возможности к созданию интеллектуальных систем класса "over" возникнут на протяжении ближайших десяти-пятнадцати лет если, разумеется, не существуют уже в настоящее время, и не послужили к хранящейся в глубокой тайне реализации подобного проекта."

"Существуют и хорошо известны разнообразные устройства военного назначения, способные в случае своего применения уничтожить человечество и подавляющее большинство современных форм жизни. В самом обобщенном виде это создание такой концентрации энергии в таком масштабе, что существование известных форм жизни становится невозможным. В настоящее время можно считать доказанным, что информация и энергия - суть разные аспекты одной и той же универсалии, проявляющейся в той или иной способности системы к изменению, и, в полном соответствии с этим утверждением, можно точно так же утверждать, что создание сверхвысокой концентрации информационных потоков так же является разрушительным для системы или сообщества систем, где такая концентрация является существенно более низкой. Так происходящая на наших глазах деградация биосферы является, в конечном итоге, результатом аномально-высокой на момент возникновения концентрации информации в человеческом мозгу, а впоследствии - в человеческом сообществе."

"Могут возникнуть концепции, согласно которым человечество, - не более, как "зерно" цивилизации, и удел его - неизбежная гибель на определенном этапе развития, как гибнет зерно, прорастая в колос. На это существует возражение: если у нас нет существенных сомнений в том, что выбор, обусловленный конкуренцией гибельный выбор человечеством уже сделан, и точка возврата оставлена далеко позади, то сомнения в том, что ныне избранный путь есть вообще единственный для разумных существ вообще и для людей - в частности, весьма основательны."

"То, что существующие в нынешнем обществе тенденции с неизбежностью ведут его к совершенно определенному исходу, и то, что для человечества в целом преодоление этих тенденций совершенно нереально, еще не делает этот исход приемлемым для отдельных людей. Я, человек, НЕ ХОЧУ вымирания человеческого вида в результате нынешних и, - что самое отвратительное, - накопившихся в прошлом глупостей и преступлений, что продолжают жить как бы в виде самостоятельных сущностей, независимо от воли отдельных людей. В тех случаях, когда аргументы "рro" и "Сontra" вроде бы как уравновешивают друг друга, а разум путается в сложном кружеве добра и зла, "хочу" - становится вполне приемлемым аргументом и лучшим руководством к действию. Так вот, я - НЕ ХОЧУ, и постараюсь найти выход хотя бы для себя.

"Нэн Мерридью"

XVIII

Тот миг, когда она открыла свои глаза, а я увидел их, я буду почитать за второе свое рождение, потому что именно в это мгновение я перешел от состояния не-жизни (В русском языке есть роскошное выражение: "Ни жив, ни мертв." - так вот я теперь его оч-чень даже хорошо понимаю.) поистине к новой жизни. Открыв глаза и увидав мою бледную и перекошенную физиономию, она несколько секунд молчала, а потом сказала самым, что ни на есть, жалобным тоном:

-Я еще есть? Погляди...