Новый ум короля: О компьютерах, мышлении и законах физики

Давайте согласимся с тем, что наличие у данного существа сознания является его реальным преимуществом в ходе естественного отбора. В чем конкретно может заключаться это преимущество? Я знаком с одной точкой зрения, согласно которой способность осознавать происходящее может оказаться полезной хищнику в его попытке предугадать, что его жертва будет делать в следующий момент, с помощью мысленной «постановки себя на место» этой жертвы. Воображаясебя своей жертвой, он мог бы увеличить шансы удачного исхода охоты.

Вполне может быть, что эта идея отчасти верна, но кое-что в ней меня смущает. Во-первых, здесь предполагается наличие некоторого сознания у самой жертвы, так как вряд ли имело бы смысл представлять себя автоматом, поскольку автомат — по определению, не обладающий сознанием— ни в коем случае не есть то, чем можно«быть»! В любом случае, я мог бы с таким же успехом представить себе, что совершенно не обладающий сознанием автомат-хищник имеет внутри в качестве подпрограммы последовательность действий, которая в точности соответствовала бы действиям автомата-жертвы. Мне вообще не кажется, что необходимость вводить сознание в отношения типа «хищник — жертва» может быть логическиобоснована.

Разумеется, трудно понять, как случайные процессы естественного отбора могли быть достаточно умными, чтобы дать автомату-хищнику полную копию программы жертвы. Это бы выглядело скорее как шпионаж, а не как естественный отбор! А частичнаяпрограмма (в смысле отрезка «ленты» машины Тьюринга или чего-то подобного такой ленте) вряд ли была бы достаточно полезна хищнику с точки зрения естественного отбора. Ему был бы необходим какой-нибудь завершенный фрагмент этой ленты, а лучше (хотя и менее вероятно) — вся лента целиком. Следовательно (и как некая альтернатива этому), частичная правда могла бы заключаться в том, что модель поведения «хищник — жертва» подразумевает все же наличие не компьютерной программы, но определенного элемента сознания. Однако, это, по-моему, уже не относится к настоящемувопросу о различии между сознательным и «запрограммированным» действиями.

Суть идеи, о которой шла речь выше, по-видимому, напрямую связана с широко распространенной точкой зрения, согласно которой считается, что система может «осознавать» нечто, если в ней уже имеется модель этого объекта, и, соответственно, что она становится « самосознающей», когда она в самой себесодержит модель самой себя. Но если компьютерная программа содержит (скажем, в качестве подпрограммы) текст другой компьютерной программы, то первая при этом не может осознавать вторую, также как и не может приводить к самосознанию обращение программы к себе самой. Несмотря на подобные часто встречающиеся заявления, фундаментальные понятия самосознания и способности к осознанию в этих рассуждениях едва ли затрагиваются. Видеокамера не осознает сцены, которые она снимает; как не обладает самосознанием и видеокамера, направленная на зеркало (рис. 10.1).

Рис. 10.1.Видеокамера, направленная на зеркало, строит модель себя внутри самой себя. Становится ли она от этого самосознающей?

Я хочу пойти в другом направлении. Как мы уже знаем, не вся деятельность нашего мозга сопровождается работой сознания (в особенности, это относится к действиям, которые управляются мозжечком). А какая часть из того, что мы можем делать осознанно, не может быть сделана бессознательно? Проблема становится еще менее ясной из-за того, что все, для чего нам изначально требуется сознание, похоже, может быть со временем заучено и впоследствии выполняться уже автоматически (возможно, именно мозжечком). Кажется, что сознание требуется, чтобы справляться с ситуациями, где нам приходится высказывать новые суждения, и где правила не были заданы заранее. Трудно достичь большой точности при проведении различий между теми видами умственной деятельности, которые, по-видимому, требуют подключения сознания, и теми, которые нет. Сторонники « сильного» ИИ(да и многие другие) будут настаивать на том, что «формирование новых суждений» — это не более, чем повторное применение ряда точно сформулированных алгоритмических правил — только теперь на некоем полумистическом «высоком уровне», так, что их действия нами при этом не осознаются. Однако, как мне кажется, даже в нашем обиходном лексиконе есть такие термины — используемые нами в повседневной жизни для разделения умственной деятельности на осознанную и бессознательную — которые уже сами по себе могут по меньшей мере навести на мысльо различиях между действиями неалгоритмической и алгоритмической природы:

Сознание требуется: «здравый смысл», «суждение об истинности» «понимание», «художественная оценка»;