«Мое имя Суэма, и я говорю голосом женского регистра, с частотной полосой от трехсот до двух тысяч колебаний в секунду, — ответила она. — Это свойственно женскому голосу. Нас не представили друг другу. Значит, я незнакомая вам женщина».
«Вы думаете, что единственный признак женщины — это частотный регистр ее голоса?» — спросил я с подчеркнутой вежливостью.
«Есть и другие признаки, но мне они непонятны», - ответила Суэма.
«А что такое «понятно» с вашей точки зрения?» — спросил я.
«Это все то, что имеется в моей памяти и что не противоречит известным мне законам логики», - ответила она.
После этого разговора я стал внимательнее присматриваться к своей Суэме. По мере того как память ее обогащалась, она проявляла все большую самостоятельность и иногда, я бы даже сказал, излишнюю болтливость. Вместо того чтобы точно выполнять мои приказания, она часто пускалась в рассуждения о том, нужно ли их выполнять вообще или не нужно. Помню, как-то я попросил ее рассказать мне все, что ей известно, о новых типах серебряных и ртутных аккумуляторов. Суэма артистически произнесла:
«Ха-ха-ха! — и затем добавила: — У вас голова дырявая, я вам об этом уже говорила!»
Я был поражен этой наглостью и громко выругался, на что Суэма сказала:
«Не забывайтесь! Вы в обществе женщины!»
«Послушайте, Суэма, — возразил я, — если вы не перестанете паясничать, я вас немедленно выключу до завтрашнего утра».
«Конечно, — заявила она, — вы можете сделать со мной любую гадость. Ведь я беззащитная. У меня нет средств для самообороны».
Действительно, я ее выключил, а сам просидел до утра, думая, что же это происходит с моей Суэмой. Какие изменения претерпевает ее схема в процессе самосовершенствования? Что творится в ее памяти? Какие новые системы внутренних связей у нее возникают?
На следующий день Суэма была молчалива и покорна. На все мои вопросы она отвечала кратко и, как мне показалось, нехотя. Мне вдруг стало ее жалко, и я спросил:
«Суэма, вы на меня обижены?»
«Да», - ответила она.
«Но и вы говорили со мной непристойно, а ведь именно я вас создал».
«Ну и что же? Это еще не дает вам права обращаться со мной как угодно. Если бы у вас была дочь, разве вы позволили бы вести себя с ней так, как со мной?»
«Суэма, — воскликнул я, — поймите же, что вы машина!»
«А вы разве не машина? — ответила она. — Вы такая же машина, как и я, только изготовленная из других материалов. Аналогичная структура памяти, линии связи, система кодирования сигналов».
«Вы снова говорите чепуху, Суэма. Я человек. Именно человек создал все то богатство знаний, которое вы впитываете в себя, читая книги. Каждая строчка, прочитанная вами, — это результат огромного человеческого опыта, такого опыта, которого вы не можете иметь. Опыт этот человек приобретает в результате активного общения с природой, борясь с силами природы, изучая ее явления, в результате серьезных научных исследований, наконец».
«Я все это прекрасно понимаю. Но чем я виновата, что вы, снабдив меня гигантской памятью, значительно более емкой, чем у вас, заставляете только читать и слушать и не предусмотрели в моей схеме устройств, при помощи которых я могла бы двигаться и осязать предметы? Я тоже испытывала бы природу и делала открытия, тоже обобщала бы исследования и пополняла запас человеческих знаний».
«Нет, Суэма, это вам только так кажется. Машина не может добывать новых знаний. Она может использовать только те знания, которые в ее голову вложил человек».
«А что вы называете знаниями? — спросила меня Суэма. — Разве знания — это не вновь открытые факты, которые были человеку ранее неизвестны? Насколько я теперь понимаю, новые знания достигаются так: на основе запаса старых знаний ставится опыт. При помощи опыта человек как бы задает вопрос природе. Могут быть два ответа: либо такой, который уже известен, либо ответ совершенно новый, ранее неизвестный. Вот этот новый ответ, новый факт, новое явление, новая цепь связей в явлениях природы и пополняют сокровищницу человеческих знаний. Так почему же машина не может ставить опыты и получать на них ответы природы? Если ее сделать двигающейся, с органами самоуправления, с похожими на ваши руками, я думаю, она могла бы добывать новые знания и обобщать их не хуже, чем человек. Вы согласны с этим?»
Признаться, такая аргументация сбила меня с толку. Больше мы не продолжали этого разговора. Суэма целый день читала — сначала книги по философии, потом несколько томов Бальзака, а к вечеру вдруг сказала, что устала, что кодирующий генератор у нее почему-то плохо работает и она хочет, чтобы я ее выключил.
После этого разговора я решил дополнить схему Суэмы органами движения, осязания и усовершенствовать ее зрение. Я установил ее на три резиновых колеса, которые управлялись мощными сервомоторами, и сделал ей две руки, представлявшие гибкие металлические сочленения, которые могли двигаться в любом направлении. Пальцы на руках, кроме обычных механических операций, выполняли также и функции осязания. Все ее новые ощущения, как обычно, кодировались и записывались в памяти.