Тени разума. В поисках науки о сознании

С помощью в точности тех же рассуждений, какими мы воспользовались в §3.2 применительно к человеческому математическому пониманию, непосредственно из вышеизложенных соображений выводится, что робот никоим образом не способен твердо поверить в то, что совокупность его собственных — и, на его взгляд, неопровержимых — математических убеждений действительно эквивалентна некоей формальной системе Q(M). И это несмотря на тот факт, что мы (выступая в роли соответствующих экспертов по проблемам ИИ) прекрасно осведомлены о том, что в основе системы математических убеждений робота лежит не что-нибудь, а именно набор механизмов M, что автоматически означает, что система неопровержимых убеждений робота является полным эквивалентом системы Q(M). Если бы робот вдруг твердо поверил в то, что все его убеждения укладываются в рамки системы Q(M), то тогда ему пришлось бы поверить и в обоснованность этой самой системы Q(M). Соответственно, ему также пришлось бы одновременно поверить и в истинность утверждения G(Q(M)), и в то, что упомянутое утверждение в его систему убеждений не входит — неразрешимое противоречие! Иначе говоря, робот никак не может знать о том, что он сконструирован в соответствии с тем или иным набором механизмов M. А поскольку об этой особенности его конструкции знаем — или по крайней мере, в состоянии узнать — мы с вами, то получается, что нам доступны такие математические истины (например, утверждение G(Q(M))), которые роботу оказываются не по силам, хотя изначально предполагалось, что способности робота будут равны способностям человека (или даже превысят их).

3.15. Способы устранения фундаментального противоречия

Приведенное выше рассуждение можно рассматривать двояко — с точки зрения создавших робота людей либо с точки зрения самого робота. С человеческой точки зрения существует некоторая неопределенная вероятность того, что математику-человеку претензии робота на обладание неопровержимой истиной покажутся неубедительными, разве что упомянутый математик-человек примет во внимание какие-то отдельные конкретные аргументы из тех, что использует робот. Возможно, не все теоремы системы Q(M) человек сочтет неопровержимо истинными, кроме того, как нам помнится, интеллектуальные способности робота могут существенно превышать таковые же способности человека. Таким образом, можно утверждать, что одно лишь знание о том, что робот сконструирован в соответствии с неким набором механизмов M, не следует рассматривать в качестве неопровержимо убедительной (для человека) математической демонстрации. Соответственно, мы должны пересмотреть все вышеприведенное рассуждение — на этот раз с точки зрения робота. Какие огрехи в нашем обосновании в состоянии заметить (и использовать)робот?

По-видимому, наш робот располагает всего лишь четырьмя основными возможностями для нейтрализации фундаментального противоречия — при условии, конечно, что сам робот осведомлен о том, что он является в некотором роде вычислительной машиной.

(a) Возможно, что робот, принимая в целом утверждение о том, что в основе его конструкции лежит некий набор механизмов M, тем не менее, неизбежно остается неспособен безоговорочно поверить в этот факт.

(b) Возможно, что робот, будучи безоговорочно убежден в истинности каждого отдельного ☆-утверждения в тот момент, когда он его формулирует, все же сомневается в достоверности полной системы своих ☆-утверждений —  соответственно, робот может не верить в то, что формальная система Q(M) и в самом деле лежит в основе всей его системы убеждений в отношении Π₁-высказываний.

(c) Возможно, что подлинный набор механизмов M существенно зависит от случайных элементов и не может быть адекватно описан через посредство неких известных результатов псевдослучайных вычислений, подаваемых на входное устройство робота.

(d) Возможно, что подлинный набор механизмов M в действительности непознаваем.