Изменчивая природа математического доказательства. Доказать нельзя поверить

Не следует думать, что построение математических доказательств — процесс механический, это вовсе не так. Математик, как и любой другой ученый, открывает идеи интуитивно. Он просто «видит» или «чувствует», что какое-то утверждение истинно, основываясь на опыте и озарении, развиваемых годами. Затем математику приходится размышлять, почему этот новый «факт» верен. Вначале может появиться только набросок, схема доказательства. Со временем обнаружатся дополнительные идеи и соберутся другие части доказательства. В конце концов все пробелы будут заполнены и результатом станет настоящее строгое доказательство, подчиняющееся неумолимому диктату логики.

В истории математики встречались области, в которых невозможно было решить, в чем заключается доказательство. Не было ни языка, ни обозначений, ни понятий, чтобы записать что-либо строго. Теория вероятностей пострадала от многих неверных шагов и сотни лет была полна противоречий и парадоксов, пока в 1930-х годах Андрей Колмогоров (1903–1987) не осознал, что правильным орудием для описания вероятностных идей должна служить теория меры. Тогда же, в 1930-х годах, итальянские алгебраические геометры решали, в чем заключается «теорема», собираясь вместе, обсуждая тему, а затем голосуя. На самом деле все было еще хуже. Имело место заметное, интенсивное соперничество между Федериго Энрикес (1871–1946), Гидо Кастельнуово (1865–1952) и другими. Они доказывали новые результаты и объявляли о них, но отказывались представлять доказательства. Так что итальянские математики дискутировали, предлагали суждения о том, как новые результаты могли быть доказаны, а затем голосовали. Одним из недостатков такого положения вещей было то, что отсутствовал процесс проверки, не развивались методы. Сама область математики стагнировала. Корректная (как мы сейчас считаем) техника работы в алгебраической геометрии была разработана много лет спустя Андре Вейлем (1906–1998), Александром Гротендиком (р. 1928), Оскаром Зарисским (1899–1986), Жаном-Пьером Серром (р. 1926), Клодом Шевалле (1909–1984) и многими другими.

Новый поворот в нашей теме создали Гари Миллер и Михаил Рабин, разработав (в 1976) вероятностный подход к доказательству математических теорем. Они изучали, как доказать, является ли некоторое большое число p простым, разработав итеративную процедуру, обладающую таким свойством: каждое применение алгоритма увеличивает вероятность того, что число простое (или показывает, что это не так). При достаточном количестве итераций вероятность может быть сделана сколь угодно близка к 1. Но этот метод никогда не дает математически полной уверенности (если только результат не отрицательный). Эта работа усилила более ранние результаты Роберта Соловея и Фолькера Штрассена. 

Теория вероятностей

Теория вероятностей имеет дело с правдоподобностью осуществления того или иного события. Если бросить монетку, насколько правдоподобно, что выпадет «орел»? Насколько правдоподобно, что две карты, наугад вынутые из стандартной колоды в 52 листа, окажутся одного достоинства? В современной квантовой механике многие утверждения с необходимостью вероятностны (в частности, именно об этом говорит нам принцип неопределенности Гейзенберга). Генетическая экспертиза, которую используют в криминалистике для установления личности преступника, во многом опирается на теорию вероятностей (поскольку между миллиардами генов можно установить соответствие только с некоторой измеримой достоверностью).

Алгебраическая геометрия

Алгебраическая геометрия изучает множества нулей многочленов. Если p(x)=a₀+a₁x+...+a_kx^k — многочлен, то что можно сказать о множестве чисел x таких, что p(x)=0? Вопрос становится особенно интересным для многочленов от двух или более переменных. Например, у многочлена p(x,y)=x²+y²+1 нет нулей, если ограничить значения переменных x и y действительным числами. Но если рассматривать комплексные числа, то окажется, что нулевое множество этого многочлена образует поверхность в четырехмерном пространстве.

Идеи Миллера—Рабина добавили огня в один математический спор, который имел место в начале 1970-х. Математик из Ратгерского университета Рафаэль Цалер опубликовал утверждение [ZAH], а затем и его подробное доказательство [THZ], показав, что некоторая гомотопическая группа ненулевая. В то же самое время японские математики С. Ока и Х. Тода опубликовали статью [OKT], в которой утверждали, что та же самая гомотопическая группа нулевая.

Эксперты-математики (и не только они) изучили обе работы, чтобы разобраться, в чем проблема. Очевидно, что обе теоремы не могли быть верны одновременно. Но найти ошибку (в одном из доказательств) не получалось. Тополог Франк Адамс в своем обзоре статьи [ZAH] заявил, что он выполнил независимую проверку и подтверждает результат Цалера. В конце концов, в июле 1974 г. Ока и Тода признали свою ошибку и отозвали свое заявление. Вроде бы все хорошо.