Голос Лема

— Большинство технических цивилизаций изобрели компьютеры, это правда, но из этого не вытекает, что мы можем окончательно определить, как протекает развитие информатики и какие законы управляют поведением цифровых интеллектов. В романах о технических сингулярностях чаще всего силу интеллекта отождествляют с вычислительной мощностью, но вряд ли стоит перекладывать одно на другое. Неправда, что для решения большой проблемы достаточно построить более быстрый и производительный компьютер: построение большого космического арифмометра не имеет ничего общего с развитием сознания и преодолением познавательного барьера. В основе мифа технической сингулярности лежит простая экстраполяция. В наших фантазиях мы всегда находим в космосе то, что имеем на своих планетах, но возведенное в степень. Так же хорошо можно было представлять себе космос, заполненный не компьютерами, а паровыми машинами, телефонными станциями, торговыми центрами или автострадами. Настоящий качественный, а не количественный прыжок, от вычислительной скорости к разумности, от мышления цивилизаций первого поколения к их преемникам нельзя описать умножением известных нам факторов. Качественное различие между тем, что мы знаем, и тем, что наше знание превышает, не позволяет предвидеть природу этого процесса. Сверхразумные существа могут иметь непонятную нам мотивацию и не продолжать показательный рост, а направиться в недоступные нам сферы. Достаточно вспомнить, как вели себя те немногочисленные искусственные интеллекты, которые мы знаем, если это действительно были интеллекты. Ни один из них не занимался созданием космических суперкомпьютеров. Некоторые замолчали, другие совершили самоотключение, а третьи, построив себе дешевые двигатели, отправились в межгалактические пространства. Напомню также случай МАСТЕРМАЙНДА 9, до сих пор изготавливающего булавки, которые он выпускает с атомной точностью, но отказывается объяснять причины своей деятельности. Я лично считаю, что концепция технической сингулярности — очередной миф о сверхсуществах, протащенный под видом технических решений.

На этом профессора вежливо прервали, потому что пришло время следующего пункта программы, каким была презентация нового сезона популярного сериала о межсистемных войнах и встреча с актерами, в нем снимавшимися».

Неожиданно для Есиды в лекционном зале появились охранные роботы, проверяющие идентификаторы, что вынудило псевдомонаха тихонько удалиться: у него была лишь карта для входа на Теологический конгресс. Беглец решает спрятаться до конца дня на борту «Магнитудо». После обеда Есида тепло одевается и навещает в бортовом холодильнике МАФУСАИЛА ЗООФИЛОНА XIX (→ЗООФИЛОН МАФУСАИЛ XIX), которому предлагает — желая немного развлечься — создать симуляцию Третьей мировой войны. Есида планирует использовать идеи компьютера при производстве нового телевизионного сериала.

«МАФУСАИЛ немедленно начал излагать: