Драконы Эдема. Рассуждения об эволюции человеческого разума

В своем подходе к машинному разуму мы находимся в сходном положении. Машины сейчас переступают важный порог, за которым они кажутся непредубежденному человеку разумными. Из-за своего рода человеческого шовинизма или антропоцентризма многие люди не готовы принять такую возможность. Но я думаю, что это неизбежно. По-моему, человеческое достоинство ни в коем случае не принижается из-за того, что сознание и разум оказываются функцией «просто» материи, хотя и достаточно сложно организованной, — напротив, тем воздается дань восхищения изощренности устройства материи и законам природы.

Отсюда никоим образом не следует, что компьютеры в ближайшем будущем смогут продемонстрировать нечто похожее на творческий дух человека, тонкость его чувств или его мудрость. Классической, хотя, вероятно, и апокрифической, иллюстрацией этой мысли служит машинный перевод, когда на вход машины подается текст на одном языке, к примеру английском, а на выходе ее получается текст на другом языке, скажем китайском. Рассказывают, что по завершении работ по созданию наиболее совершенной программы машинного перевода на демонстрацию ее в действии была приглашена делегация, в которую входил американский сенатор. Сенатора попросили предложить английскую фразу для перевода. И он, не задумываясь, сказал: «Out of sight, out of mind». Машина деловито выдала листок бумаги, на котором было написано несколько китайских иероглифов. Но сенатор не умел читать по-китайски. Поэтому, чтобы завершить испытания, программу запустили в обратную сторону: на вход машины подали китайские иероглифы, а на выходе она должна была выдать английский перевод. Посетители столпились вокруг нового листка бумаги, на котором была написана фраза, поначалу очень удивившая их: «Invisible idiot». [ 50 ]

Существующие программы лишь в самой малой степени способны справляться с проблемами даже не слишком высокой степени сложности. Было бы глупо доверять компьютерам при их нынешнем уровне развития принимать важные решения, и не потому, что компьютеры недостаточно разумны, а потому, что для решения сложной проблемы мы не сможем предоставить в его распоряжение всю необходимую информацию. Но использование людьми систем искусственного интеллекта в разумно ограниченных пределах представляется одним из двух главных действенных способов расширения возможностей человеческого интеллекта в ближайшем будущем. (Другим таким способом является совершенствование программ дошкольного и школьного обучения детей.)

Те, кто не рос вместе с компьютерами, обычно боятся их намного больше, чем те, кто привык к ним с детства. Известна история о маньяке-компьютере, который, выполняя роль банковского служащего, регулярно рассылал клиентам банка извещения о том, что за ними числится долг в 00 долларов и 00 центов, и не успокаивался до тех пор, пока не получал чек именно на эту сумму. Но такой слабоумный компьютер нельзя считать представителем всего племени вычислительных машин, а кроме того, его ошибки — это ошибки человека-программиста. Все возрастающее использование в Северной Америке интегральных схем и небольших компьютеров — для обеспечения безопасности полетов, в обучающих машинах, в электронных стимуляторах сердца, в разного рода электронных играх, в устройствах противопожарного оповещения и на автоматизированных заводах (и это еще далеко не полный список) — в высшей степени способствовало уменьшению того чувства непривычности, которое должно было вызвать столь революционное изобретение. Сегодня в мире около 200 000 цифровых компьютеров [ 51 ], в следующее десятилетие их число, вероятно, будет исчисляться десятками миллионов. Поколение, приходящее нам на смену, я думаю, будет относиться к компьютерам как к совершенно естественному или по крайней мере общеизвестному явлению в их жизни.