Собеседник. Выпуск 3

Профессор И. А. Полетаев (г. Новосибирск): «Нет, в самом деле -страшно! Но, увы! Невозможно выключить «рубильник науки». Нельзя прекратить исследования генетического анализа и синтеза, невозможно не полететь на Луну, нельзя закрыть Америку. Если человек может открыть Америку, полететь на Луну, синтезировать живое существо, построить мыслящее механическое чудовище, он непременно и неизбежно все это сделает, даже если его не побуждает к этому прямая нужда. Просто - таков человек! Почему он таков - мы не знаем. Но узнаем, ибо человек (не этот, так следующий) и этого узнать не побоится»*⁴.

Не забывайте, что мы рассказываем о событиях, которые могут произойти лишь в будущем времени, и автор ручается за их достоверность лишь с учетом этого обстоятельства.

Итак, преподаватель математики одного из университетов, профессор

Мэйзи Метикс, обратился в суд с необычным заявлением. Суть дела заключалась в следующем. Для того, чтобы ускорить усвоение студентами премудростей данной науки, с некоторых пор было решено вести преподавание на новой основе. Известно, что ничто так не способствует развитию профессиональных навыков, как решение конкретных и практически важных задач. Существующие задачники с искусственно придуманными и тысячу раз решенными упражнениями для этой цели явно не годились. Но где взять такие задачи, которые бы, с одной стороны, никем ранее не решались, а с другой стороны, их решение было бы известно? Нельзя же к каждому студенту приставить по профессору!.. Помощь пришла со стороны фирмы «Артифишиал интеллидженс», которая сконструировала и изготовила электронное устройство, названное УСОРЕЗ - Универсальный СОставитель и РЕшатель Задач. Пользуясь введенными в нее сведениями из любого раздела математики, эта машина могла самостоятельно формулировать практически неограниченное число разнообразных задач, сообщая также результат их решения, а при необходимости - и то, как он получен. Профессору оставалось лишь произвести среди них отбор новых и наиболее интересных и предложить их студентам. Сначала все шло хорошо. «Электронный задачник» справлялся с работой, и все были довольны. Но по мере того, как автомат набирался опыта, профессор стал замечать, что некоторые объяснения выглядят довольно сомнительными, а иногда и просто бессмысленными. Когда профессор указал ему на это (общение с машиной могло осуществляться на вполне нормальном человеческом языке, хотя и несколько ограниченном по словарному запасу), машина в первый раз выразила непонимание. Последовала долгая и довольно напряженная дискуссия, результат которой оказался неожиданным. Робот отказался подчиниться человеку. Более того, он сообщил (точнее, доказал в виде теоремы), что вложенные в него принципы максимальной эффективности работы требуют замены помощника (так он назвал профессора!) устройством, которое было бы более способно к восприятию вырабатываемой информации, в сущности элементарной. То есть - помощнику надо знать математику не хуже, чем знает он, УСОРЕЗ... Поскольку профессор носил усы, среди студентов распространились недвусмысленные шутки. Профессор Мэйзи Метикс подал два заявления: одно - об отставке, другое - в суд. Не на УСОРЕЗ, естественно, а на изготовившую его компанию. Компания «Артифишиал интеллидженс» иск отвергла на том основании, что не брала на себя обязательств поставлять «вежливые машины». Однако при расследовании выяснилось, что случай не был единичным. Нечто похожее происходило и в других учебных заведениях, институтах, фирмах, но попросту замалчивалось. В дело счел нужным вмешаться государственный обвинитель. По его настоянию была создана авторитетная комиссия для расследования обстоятельств дела об «искусственном интеллекте» и последствий, к которым может привести его создание.

Следствие по делу о причинах

Любопытство свойственно, по-видимому, всем достаточно развитым существам. Человеку (особенно ребенку) - тоже. Зато другой удивительной способностью - воображением, человек наделен в неизмеримо большей степени, чем даже его ближайшие родственники по животному миру. Эти два свойства были, как нам кажется, изначальными при зарождении человеческого разума. Слова, понятия, логика - все это появилось потом, когда люди научились не только воображать, но и воплощать свои мечты на практике...

Как мы увидим в дальнейшем, электронно-вычислительные машины начинают в обратном порядке - сначала они учатся логически рассуждать. Вернее, их учат этому люди. А кое-кто из людей надеется на этой основе смоделировать когда-нибудь и любопытство, и воображение, и другие чисто психологические качества. Возможен ли такой, обратный естественному, порядок при возникновении интеллекта?.. Вот еще один вопрос, на который придется ответить защитникам «машинного разума».

Впрочем, у тех, кто занимается проблемами «чистого» естествознания, вопросов не меньше. Что такое человеческий мозг? Как он возник? Как он «работает»? И, наконец, почему одним из видов его деятельности являются попытки самопознания?