День гнева

Вопрос: Действительно ли существует для машины тенденция становиться сложнее, изобретательнее?

Ответ: Мы делаем сейчас гораздо более сложные машины и собираемся сделать еще гораздо более сложные машины в ближайшие годы. Есть вещи, которые пока совсем не дошли до общественного внимания, вещи, которые заставляют многих из нас думать, что это случится не позже чем через какие-нибудь десять лет.

— Эти десять лет прошли, — сказал Витовский. — Может ли человек теперь соревноваться с машиной в решении интеллектуальных задач?

Витовский, конечно, сам знал ответ. Мне оставалось лишь рассказать о новых универсальных машинах серии “КМ” и о последних конструкциях своих эвротронов. Он выслушал, не перебивая, потом спросил, что я в этой связи думаю о будущем.

Я ответил примерно следующее.

Было бы величайшим легкомыслием закрывать глаза на проблему “человек и машина”. Беда не в бунте машин. Эти шкафы и ящики абсолютно не способны бунтовать. Проблема как раз в обратном: машины слишком хорошо работают на нас. Допустим, машина заменяет труд экономиста. Что должен делать этот экономист? Совершенствоваться, учиться, перейти на более сложную работу? Но не так просто совершенствоваться в тридцать, сорок или пятьдесят лет. К тому же сейчас почти все машины тоже способны совершенствоваться в процессе работы. И они это делают очень быстро, куда быстрее человека!

Когда-то машины вытеснили человека из сферы физического труда в сферу труда умственного. Потом машины начали умнеть. Поставить точку, прекратить совершенствование интеллектуальных машин? В мире, разделенном на многие государства, это не так просто. Да и сама “постановка точки” была бы странной: интеллектуальные машины — не оружие, они должны служить человеку…

Пока мы ограничиваемся полумерами: люди переходят в менее “кибернетические” отрасли, быстро увеличивается число людей, занимающихся искусством.

— А как вы смотрите на возможность соревнования человека с машиной? — спросил Витовский. — Человек тоже развивается, не так ли?

Я возразил: человек развивается слишком медленно. За три тысячи лет мозг человека почти не изменился. Для ощутимых изменений нужны десятки тысяч лет.

— Это так и не так, — сказал Витовский. — Машины действительно развиваются много быстрее человека. Рассматривая проблему “человек и машина”, мы видим неменяющегося человека и быстро меняющуюся машину. Но ведь сама кибернетика, развиваясь, дает средства для форсированного, очень быстрого развития человеческого мозга. Значит, если не отмахнуться от проблемы “человек и машина” (а такая тенденция есть), можно гармонически развивать людей и машины, сохраняя между ними оптимальную дистанцию. Как вы думаете?

Я, кажется, ответил невпопад. Меня ошеломила неожиданная идея о возможности (для всего человечества!) жить в состоянии непрерывного усовершенствования, столь же стремительного, как и развитие машин.

Да, как ни удивительно, в бессчетных спорах вокруг проблемы “человек и машина” всегда молчаливо предполагают, что “человек” — это сегодняшний человек, а “машина” — это будущая машина. Считается само собой разумеющимся, что возможности человеческого мозга через двадцать лет или через столетие останутся почти такими же, как сегодня. Да и через тысячу лет “конструкция” человека не претерпит принципиальных изменений. Так, во всяком случае, думают фантасты.

Я не случайно упомянул о фантастике. Наука пока не занимается вопросом о людях XXI или тем более XXX века. В планах исследовательских работ среди тысяч и тысяч тем нет ни одной, посвященной человеку будущего. Наше представление о будущих людях формируется отчасти интуитивно, отчасти под влиянием фантастической литературы. Поэтому к проблеме “человек и машина” мы подошли с теми представлениями о людях будущего, какие были привиты нам фантастикой.

Что ж, если “конструкция” человека принципиально не меняется, машины неизбежно окажутся умнее нас. Это вопрос времени, и только. Подчеркиваю еще раз: машины нас не съедят. Они только будут всё лучше и лучше выполнять нашу работу, в том числе производственную, исследовательскую, административную.

Многолетние дискуссии постепенно выработали компромиссную (я бы сказал — половинчатую) точку зрения: теоретически машины могут стать сколько угодно умными, но практически создание подобных машин невероятно сложно и произойдет это еще весьма не скоро. Примерно так относились в двадцатых и тридцатых годах к проблеме атомной энергии: вообще, мол, возможно, однако трудности таковы, что потребуются многие столетия… Как известно, все произошло значительно быстрее.

Я записываю то, что думаю сейчас, после долгих бесед с Витовским и Панариным. При первом разговоре мысли были хаотичнее. И все-таки уже тогда я уловил главное. Вторая сущность проблемы “человек и машина” (как и вторая сущность проблемы бессмертия) начиналась с уяснения единственно верного пути: человек будущего должен иметь принципиально новую способность постоянно и быстро совершенствовать свою “конструкцию”.