Мгновение

Как я писал в «Сумме технологии», конструктора интересует не то, есть ли сознание у машины, а лишь то, правильно ли она функционирует. Все, что мы знаем о внесознательном автоматизме, а также о бессознательной активности инстинктов, позволяет нам считать возможным изучение сложных систем (например, нейронных сетей), когда, зная, что находится на входе, а что – на выходе системы таких сетей, мы можем не знать, что происходит в самой сети. Пока мы не слишком далеко продвинулись от компьютерных программ Винограда, при помощи оптических датчиков и рецепторов выполнявших поручения типа: «скажи, сколько геометрических тел стоит на столе» или «поставь конус на куб» и т.д. Сейчас нам с триумфом объявляют, что робот, который умеет подняться по лестнице или спуститься с нее, может самостоятельно ориентироваться в лабораторном окружении. Однако я бы не сказал, что его уже можно сравнить по умственному развитию с полуторагодовалым ребенком, который еще не разговаривает. Тем временем энтузиасты Artificial Intelligence хотят уже в следующих поколениях роботов видеть если еще не Эйнштейнов, то по меньшей мере официантов или домашних охранников. А ведь как с охранником, так и с официантом можно поболтать на политические или экономические темы. В моих глазах поборники AI сегодня напоминают скорее группы цирковых акробатов, намного более проворных, чем зрители, поскольку они способны выполнять прыжки в воздухе с трапеции на трапецию. Это неоспоримое мастерство sui generis, но оно не должно в каждом случае находиться под сосредоточенным вниманием сознания. Хотя я приписывал машинным системам будущего способность лингвистической артикуляции, и, следовательно, искусство ведения разговоров с человеком в рамках определенной тематики, но не стал бы сравнивать эту способность со свободой речи неквалифицированного разнорабочего или кухарки. Ведь не упоминалась немаловажная проблема, заключающаяся в том, что способность отличить в разговоре искусно запрограммированный компьютер от человека в очень большой, а точнее, в различной степени зависит от интеллектуального уровня собеседника-человека. Из трудов Вейзенбаума мы узнали, между прочим, что его псевдопсихологической программе Eliza удавалось обмануть даже тех людей, которые знали, что ни один человек и ни один разум не стоят за произносимыми вопросами и ответами. Однако психологическое заблуждение, вызванное антропоморфической проекцией, приводило к тому, что, например, секретарша, которой программа Eliza задала вопрос, с точки зрения секретарши интимный, просила, чтобы профессор оставил ее один на один с машиной, понимающей ровно столько же, сколько может понимать стена, отбивающая удары игрока теннисным мячом. Таким образом, мы вынуждены признать проблему искусственного интеллекта дихотомичной, поскольку она возникает при столкновении двух систем: человека, который в нашем предположении понимает, что делает и говорит, и машины, которая, очень постепенно в разных направлениях совершенствуясь, будет имитировать партнера. Я опасаюсь, что имитация может оказаться одновременно и бессознательной, и замечательно изображающей сознание. Эта трудность еще не преодолена, и потому сегодня она представляет собой гордиев узел, распутыванием или рассечением которого должно будет заняться только будущее.

Интеллект – случайность или неизбежность [34]

В беседе с молодыми немецкими философами я позволил себе задать несколько риторический вопрос: может ли интеллект считаться существенным условием сохранения вида. Я ответил себе сам, констатируя, что многомиллионное разнообразие живых видов на Земле возникло и опирается на точно нам неизвестное многомиллионное количество видов бактерий. Возникло оно после того, как цианобактерии, фотосинтезирующие водоросли, а также, вероятно, многочисленные другие прокариоты радикально изменили атмосферу едва остывшей и покрытой коркой Земли, благодаря чему возникшая в водах океанов жизнь, разделившись на растения и животных, смогла начать нашествие на континенты. Бактерии, сказал я, являются единственными организмами, способными пережить сильнейшие геологические и космические катаклизмы за исключением, пожалуй, полного испепеления нашей планеты в результате превращения Солнца в красного великана, который размерами превысит орбиту Земли, а может, и Марса. Не отрицая, таким образом, активной деятельности человеческого интеллекта, вместе с тем нельзя приписывать ему потенциал выживания, превосходящий потенциал, присущий миру животных. Виды, которые просуществовали сотни миллионов лет и сохранились до сих пор, как, например, насекомые, отличались изменчивостью, позволившей динозаврам дожить до нашего времени благодаря перерождению в птиц.