Изменчивая природа математического доказательства. Доказать нельзя поверить

Начнем с основ. Когда мы записываем доказательство, так что его можно отправить в журнал, где его изучат, а главное (как мы надеемся) напечатают, мы полагаем, что в целом (математический) мир прочтет, оценит это доказательство и примет его. Это важная составная часть того процесса, который мы называем математикой: именно сообщество профессионалов в целом решает, что корректно и приемлемо, что полезно, интересно и значимо. Создатель новой математической идеи несет ответственность за то, чтобы представить ее математическому сообществу; и уже само сообщество решает, включать работу в канон или нет.

Написать математическую работу — пройти по узкой дорожке. Риторика современной математики подчиняется строгим правилам. С одной стороны, требуется следовать формальным правилам логики. Статья не должна содержать утверждений, принимаемых на веру, догадок или небрежностей. С другой стороны, если автор действительно будет включать каждый шаг, действительно упоминать каждое используемое правило логического вывода, не оставляя никаких пропусков, то даже самое простое рассуждение будет растянуто на несколько страниц, а для доказательства существенной математической теоремы их потребуются сотни. Это просто не пройдет. Большинство математических журналов не станут публиковать так много материала, с которым может ознакомиться так мало читателей. Так что на практике некоторые шаги опускаются. Как правило, это мелкие шаги (по крайней мере так считает автор), но для математика не редкость провести пару часов, восстанавливая шаги в длинной статье, в которой автор оставил что-то недосказанным[28].

Подытожим: обычно в доказательстве мы опускаем многие шаги. В принципе читатель может их восполнить. Обычно математики считают неприемлемым оставлять следы, по которым читатель может увидеть, как произошло открытие идеи. И мы твердо верим в пропущенные «очевидные шаги». Мы оставляем много подробностей читателю. Мы демонстрируем конечный продукт, изящный и сияющий. Для нас вовсе необязательно рассказывать читателю, как мы добрались до финишной прямой.

Введем несколько терминов. В математике множество — это набор объектов. Это пример математического определения — такого, что описывает новое понятие (а именно, «множество») повседневным языком. Обычно мы обозначаем множество прописной латинской буквой, например S, T или U. Существует целая ветвь математики под названием «теория множеств», она лежит в основании большинства других областей математики. Отцом современной теории множеств обычно считают Георга Кантора (1845–1918). Ее основание относится к концу девятнадцатого и началу двадцатого века.

Хотя в этой книге не место излагать введение в теорию множеств, мы определим некоторые термины, полезные для дальнейшего обсуждения. Пусть S — множество. Мы говорим, что x является элементом множества S и записываем , если x — один из объектов, входящих в множество S. В качестве примера рассмотрим множество S положительных целых чисел:

Тогда 1 — элемент множества S. А также 2 — элемент множества S и 3 тоже и так далее. В таком случае мы записываем , , и так далее. Отметим, что π не является элементом множества S. Раз π=3,14159265... не является целым числом, оно не является и объектом из S. Записывают это так: .

Теперь можно вернуться к обсуждению саги о теории множеств. В 1902 г. Готтлоб Фреге (1848–1925) радовался тому, что второй том его значительного труда «Основные законы арифметики» [FRE2] находился в печати, когда получил вежливое и скромное письмо от Бертрана Расселла, предложившего такой парадокс[29]:

Пусть S — набор всех множеств, которые не являются элементом себя. Может ли  S быть элементом множества S?

Что здесь парадоксального[30]?

Проблема вот в чем. Если , то по определению множества  оно не является элементом множества S. А если S не является элементом множества S, то, согласно тому же определению, S — элемент множества S. В любом случае обнаруживается противоречие.

Сейчас самое время вспомнить Архимедов закон исключенного третьего. Должно выполняться что-то одно: или , или , но на самом деле в обоих случаях ситуация приводит к противоречию. В этом и состоит парадокс Расселла. Фреге пришлось еще раз обдумать свою книгу и сделать заметные поправки, чтобы справиться с вопросами, поднятыми парадоксом Расселла[31].

После интенсивной переписки с Расселлом Фреге модифицировал одну из своих аксиом и добавил приложение, объясняющее, как эта модификация учитывает вопросы, поднятые парадоксом Расселла. К несчастью, эта модификация отменяла некоторые результаты из первого тома работы Фреге — уже опубликованного. Второй том в конце концов появился на свет ([FRE2]). Но Фреге был до того обескуражен этой историей, что продуктивность его исследований заметно снизилась. Третий том так и не вышел.