Глаз разума

Утверждение, что машина не может являться предметом своих собственных мыслей, можно опровергнуть, только доказав, что машина имеет какие-либо мысли с каким-либо предметным содержанием. Тем не менее, “предметное содержание машинных операций” в действительности имеет значение, по крайней мере для людей, имеющих с ним дело. Скажем, если машина пыталась найти решение уравнения x² - 40x - 11 = 0, соблазнительно представить это уравнение как часть предметного содержания машины в данный момент. В этом смысле машина несомненно может являться собственным предметным содержанием. Ее можно использовать, чтобы помочь составлять программы для нее же или чтобы предсказать эффект изменения в ее структуре. Наблюдая за результатами своего поведения, она может менять собственные программы с тем, чтобы более эффективно добиться поставленной цели. Все это не утопические мечтания, но возможности ближайшего будущего.

Критицизм, утверждающий, что у машины не может быть разнообразного поведения, по сути дела утверждает лишь то, что у нее не может быть большого объема памяти. До недавнего времени объем даже в 1000 знаков был редкостью.

Аргументы, которые мы здесь рассматриваем, часто лишь завуалированные формы аргумента от сознания. Как правило, человек, утверждающий, что машина способна сделать одну из этих вещей, и описывающий соответствующий метод, не производит большого впечатления. Считается, что метод (каким бы он ни был, поскольку он все равно будет механическим) всегда слишком прост. (Сравните со скобками в отрывке из речи Джефферсона, приведенной выше.)

6. Аргумент леди Лавлейс. Об Аналитической Машине Баббиджа нам лучше всего известно из мемуаров леди Лавлейс. Она пишет: “Аналитическая машина не претендует на создание чего-либо нового. Он может делать лишь то, что мы умеем ей приказать” (выделено автором). Хартри цитирует это высказывание и добавляет: “Из этого не следует, что невозможно сконструировать электронное оборудование, которое “думало бы само по себе”. Говоря языком биологии, в такое устройство был бы встроен некий условный рефлекс, который мог бы служить базой для “обучения”. Возможно ли подобное в принципе — это захватывающе интересный вопрос, который возникает в некоторых недавних исследованиях. Однако мне кажется, что машины, создаваемые или проектируемые во времена леди Лавлейс, этой особенностью не обладали.”

Здесь я полностью согласен с Хартри. Надо заметить, что он не утверждает, что рассматриваемая машина этой особенностью не обладала. Он лишь замечает, что имевшаяся у леди Лавлейс информация не позволяла ей предположить, что данная машина могла иметь эту особенность. Вполне возможно, что на самом деле она ее имела. Представьте себе, что некая дискретная машина этой способностью обладает. Аналитическая Машина была универсальным цифровым компьютером, поэтому, обладая достаточным объемом памяти и скоростью и будучи соответствующим образом запрограммированной, она могла бы уподобиться упомянутой машине. Вероятно, этот аргумент не пришел в голову ни леди Лавлейс, ни самому Баббиджу. Так или иначе, они не были обязаны заявлять все, что только возможно.

Этот вопрос снова будет рассмотрен нами, когда мы будем говорить об обучающихся машинах.

Сторонники леди Лавлейс утверждают, что “машина никогда не сможет создать ничего действительно нового”. Это высказывание можно парировать поговоркой “Под солнцем нет ничего нового.” Кто может с уверенностью утверждать, что “оригинальная работа” проделанная им, не является на самом деле ростком, выросшим из семечка обучения, или результатом следования общеизвестным принципам? Улучшенный вариант аргумента утверждает, что машина “не способна нас удивить”. Это утверждение является прямым вызовом, и на него можно прямо ответить. Машины удивляют меня очень часто. Это происходит потому, что я не делаю расчетов относительно того, что от них можно ожидать, а если и делаю, то торопливо и недостаточно аккуратно. Например, я говорю себе: “Наверное, напряжение здесь такое же, как и там; предположим пока, что так и есть”. Естественно, я часто ошибаюсь, и результат бывает для меня сюрпризом, поскольку к концу эксперимента я уже успеваю забыть о своих предположениях. Это признание делает меня уязвимым для критики моей небрежности, но не может служить основанием для сомнения в том, что я испытываю искреннее удивление.

Я не ожидаю, что мой ответ заставит критиков замолчать. Вероятно, они скажут, что мое удивление вызвано неким творческим актом с моей стороны, и что машина здесь совершенно ни при чем. Это возражение уводит нас в сторону от аргумента “от удивления” и возвращает к “аргументу от сознания”. Эту линию аргументации мы уже должны считать закрытой, но, пожалуй, стоит заметить, что для восприятия чего-либо как удивительного, будь это человек, книга, компьютер или что-нибудь иное, обязательно потребуется “творческое мысленное действие”.