Этот последний результат заронил в Кеплере подозрение, что форма орбиты не круговая, и показал необходимость продолжать исследования без каких-либо предвзятых допущений относительно формы орбиты. Однако ее можно было бы определить при известных расстояниях от Марса до Солнца в разных частях орбиты. Поэтому Кеплер вычислил три расстояния на основании гипотезы о круговой орбите и наблюдений. Результат оказался таков:
Поскольку наблюдаемые расстояния оказались меньше, чем рассчитанные из эксцентрического круга, следовал естественный вывод: орбита представляет собой не окружность, а кривую, которая, кроме как в апсидах, целиком лежит внутри круга. Это также объясняет, почему применение закона площадей дало результат, показывающий, что планета движется слишком быстро вблизи апсид и слишком медленно на среднем расстоянии, так как площади секторов круга везде, кроме как вблизи апсид, больше, чем у кривой, лежащей внутри круга. Поэтому Кеплер пришел к выводу, что «орбита планеты является не кругом, но овалом». В апсидах этот овал совпадает с кругом, а в аномалиях 90° и 270° больше всего отклоняется от круга, причем овал имеет яйцевидную форму, более широкую в афелии и более заостренную в перигелии. Чтобы объяснить эту примечательную форму орбиты, Кеплер разложил движение планеты на движение по эксцентрической окружности и движение по эпициклу. Он предположил, что планета обладает некой силой, противостоящей силе, исходящей от Солнца, которая толкает ее вперед, так что она описывает эпицикл попятным движением, а также он предположил, что планета движется неравномерно (в соответствии со вторым законом) на эксцентре, но равномерно на эпицикле.
Таким образом, Кеплер окончательно распрощался с гипотезой о круговой орбите, но зато столкнулся с большими трудностями при работе с яйцевидной орбитой и ее квадратурой, так что ему пришлось прибегнуть к приближенным методам. Заместительная теория с достаточной для этой цели точностью давала гелиоцентрическую долготу, то есть направление радиус-вектора; осталось только определить длину. Поэтому линия от перигелия до афелия (
Затем
Для нахождения площадей секторов овала Кеплер заменил овал эллипсом, причем наибольшая ширина лунки между ним и эксцентрической окружностью равна 0,008 58[343]
. Это также дало ошибку примерно в 7′ в октантах, но со знаками противоположными знакам эксцентрической окружности показав, что истинная орбита находится где-то между окружностью и вспомогательным эллипсом[344]. После ряда других бесплодных экспериментов он вычислил двадцать два расстояния от Марса до Солнца с помощью новой гипотезы. Эти вычисления демонстрируют, что он правильно определил линию апсид, и самым убедительным образом доказывают, что на самом деле она проходит через тело Солнца, как он всегда утверждал, а не через среднее Солнце. Но расстояния оказались слишком малы, с разницей 0,006 60 примерно в месте среднего расстояния. Поэтому истинная орбита со всей ясностью оказалась расположена между кругом и овалом.Ширина лунки между орбитой Марса и эксцентрической окружностью наконец дала долгожданный ключ к тайне движения планеты. Она составляла 0,006 60, при полудиаметре окружности 1,523 50, или 0,004 32, если полудиаметр равен 1. Это почти равно 0,004 29, или половине ширины лунки в теории овала. По чистой случайности, как признает Кеплер, он заметил, что 1,004 29 равно секансу наибольшего оптического уравнения Марса, то есть секансу угла (5°18′), тангенс которого равен эксцентриситету. «Я как будто пробудился ото сна, и меня озарило новым светом». На средних расстояниях оптическое уравнение является максимальным, и там сокращение расстояний оказывается наибольшим, превышая единицу на 1,004 29. Этот результат Кеплер распространил на все точки орбиты, заменив всюду радиус-вектор эксцентрической окружности на одинаковую величину, умноженную на косинус оптического уравнения, или distantia diametralis, как он это называет. Сравнение ряда расстояний, вычисленных по этому правилу, с результатами, получившимися из наблюдений Браге, показало, что это предположение вполне оправданно. Так было сделано великое открытие, что радиус-вектор Марса всегда представлен уравнением