Изменчивая природа математического доказательства. Доказать нельзя поверить

Теорема Браэура о неподвижной точке — одна из важнейших и захватывающих теорем математики XX в. Доказательство этой теоремы сделало Брауэра одним из ведущих топологов того времени. Но он отказывался читать лекции на эту тему и даже, в конце концов, отверг эту (свою собственную!) работу. Причиной такого странного поведения стало то, что Л. Э. Я. Брауэр обратился в конструктивизм (или интуиционизм). Он отказался от аристотелевской диалектики (что утверждение может быть либо истинным, либо ложным, и третьего не дано) и поэтому отверг и понятие «доказательства от противного». Брауэр полагал, что когда речь идет о бесконечных множествах, верным может быть только такое доказательство существования математического объекта (такого как неподвижная точка!), когда нужный объект конструируется явно[59]. Брауэровская школа получила название «интуиционизм», оставив яркий след в истории математики XX в. Сам серый кардинал Герман Вейль подписывался под некоторыми идеями философии интуиционизма, а Эррет Бишоп (см. ниже) защищал ее страстно.

Как мы увидим ниже, теорема Брауэра о неподвижной точке утверждает существование «неподвижной точки» для непрерывного отображения. Доказывают существование неподвижной точки, предполагая, что она не существует, и приходя к противоречию. Таким и был брауэровский метод с самого начала, но он не выдержал столкновения с интуиционизмом, к которому Брауэр позднее пришел.

Мы начнем с обсуждения общей идеи теоремы Брауэра о неподвижной точке в ее «игрушечном» — одномерном варианте. Рассмотрим непрерывную функцию f, отображающую отрезок [0,1] на себя. На рис. 5.8 изображен график такой функции.

Рис. 5.8. Функция, непрерывная на единичном отрезке

Отметим, что непрерывной называют функцию, у графика которой нет разрывов. Иногда говорят, что график непрерывной функции «можно изобразить, не отрывая карандаша от бумаги». Существуют и более строгие определения понятия непрерывности, но нам для наших целей хватит и этого. Вопрос в том, найдется ли такая точка , что f(p)=p. Такая точка f называется неподвижной точкой функции f. На рис. 5.9 вы видите, насколько сложной может быть непрерывная функция, отображающая отрезок [0,1] на себя. В каждом конкретном случае может быть не вполне очевидно, существует неподвижная точка у такого отображения или нет. Однако на рис. 5.10 отмечены неподвижные точки для каждого случая. 

Рис. 5.9. Сложность непрерывной функции

Рис. 5.10. Неподвижная точка каждой непрерывной функции

Нарисовать несколько картинок вовсе не то же самое, что установить раз и навсегда, что какой бы ни была непрерывная функция f:[0,1]→[0,1], для нее обязательно найдется неподвижная точка p. Здесь требуется математическое доказательство. Мы строго сформулируем и докажем этот результат.

Теорема 5.3.1. Пусть f:[0,1]→[0,1] — непрерывная функция. Тогда существует точка такая, что f(p)=p.

Доказательство. Мы можем считать, что (в противном случае, 0 и есть неподвижная точка, мы ее уже нашли). Поэтому f(0)>0. Кроме того, мы можем считать, что (в противном случае неподвижной точкой является 1, — мы нашли то, что нужно). Значит, f(1)<1.

Рассмотрим теперь вспомогательную функцию g(x)=f(x)-x. Как мы видели в предыдущем абзаце, g(0)>0 и g(1)<0. Посмотрим на рис. 5.11. Мы видим, что для непрерывной функции, обладающей такими свойствами, должна найтись точка p между 0 и 1 такая, что g(p)=0. А это и означает[60], что f(p)=p. □

Теперь обратимся к многомерному, в частности двумерному, варианту теоремы Брауэра о неподвижной точке. Именно в этой формулировке она вызвала интерес и даже воодушевление, когда Брауэр впервые доказал ее сто лет тому назад.

Но вначале мы должны установить один вспомогательный топологический факт. Для этого мы воспользуемся теорией гомотопий Пуанкаре.

Лемма 5.3.2. Пусть U, V — геометрические фигуры, а g:U→V  — непрерывная функция. Если γ — замкнутая кривая в U, которая может быть непрерывной деформацией стянута в точку, то g(γ) — подмножество V, которое тоже является замкнутой кривой, которая может быть непрерывно деформирована в точку.

Рис. 5.11. Теорема о промежуточном значении

Рис. 5.12. Замкнутый единичный диск

Это утверждение должно быть интуитивно ясно. Очевидно, непрерывная функция не может взять замкнутую кривую и перевести ее в незамкнутую; это противоречит самому понятию непрерывности. И если представить себе поток кривых, первая из которых — γ, а последняя — одна точка в U, то их образы, которые порождает функция g, образуют другой поток кривых в V, которые стягиваются в точку в V.

Определение 5.3.3. Пусть — замкнутый единичный диск (т. е. круг вместе со своей границей) такой, как изображен на рис. 5.12. Обозначим C границу круга . Непрерывная функция , которая оставляет неподвижной все точки C, называется ретракцией на C (рис. 5.13).

Рис. 5.13. Ретракция