Именно так обстоит дело с дифракцией и вопросом о разрешающей способности оптических приборов. Переход к представлениям и формулам геометрической оптики полностью исключает возможность рассмотрения и понимания всего круга этих проблем. Осознав это, Аббе призвал на помощь волновую теорию света. Аббе принадлежал к ученым, стремящимся к созданию приборов и инструментов, а не к установлению принципов и законов. Поэтому он, к сожалению, опубликовал лишь малую часть своих теоретических исследований. Встретившись с загадочным влиянием диафрагмы на получаемое изображение, Аббе счел вопрос об определении разрешающей силы микроскопа второстепенным. Задача состояла в том, чтобы понять, как оптический инструмент формирует видимое изображение, при каких условиях изображение будет, хотя бы в общих чертах, соответствовать объекту. Прежде чем предпринять трудное путешествие в глубины волновой оптики, Аббе хочет уяснить простейший вопрос. Можно ли, исходя из геометрической оптики, создать реальный прибор, дающий идеальное изображение? Для одиночной линзы геометрическая оптика дает обескураживающий ответ: нет, нельзя. Простейшие формулы, дающие положительный ответ, справедливы только для бесконечно тонкой линзы и для плоского зеркала. Реальная линза имеет толщину. Но даже очень тонкая линза не бесконечно тонка, и учет ее толщины требует более сложных формул. А они показывают, что искажения в одиночной линзе неизбежны. Более или менее приемлемое изображение можно получить только в малой области вблизи оси линзы. Значит, единственный оптический прибор, дающий изображение, точно соответствующее объекту, это плоское зеркало, если оно действительно идеально плоское. И то оно меняет симметрию: правая рука выглядит в зеркале левой, и наоборот.
Не выходя за пределы геометрической оптики, Аббе обнаружил, что наиболее простой оптический инструмент, с наименьшими ошибками преображающий прямые линии объекта в прямые линии изображения с сохранением углов между ними, должен содержать две тонкие линзы. Не бесконечно тонкие, но тонкие по сравнению с их диаметром. Причем они должны располагаться особым образом, так, чтобы лучи, входящие в первую линзу параллельно друг другу, выходили из второй тоже параллельным пучком. Такая компоновка линз называется телескопической системой. Оси линз и их фокусы должны в ней совпадать.
Установив этот исходный факт, Аббе начал свой поиск. Начал с мысленного эксперимента. Пусть перед объективом телескопической системы, предположил он, располагается объект, представляющий набор мелких отверстий в непрозрачной плоскости. Позади объекта помещается источник света. Каждое отверстие из-за дифракции превращает падающий на него свет в бесконечное число пучков. Объектив сводит эти пучки в маленькие пятнышки в своей фокальной плоскости. Аббе называет это первичной картиной, распределение света в которой всецело определяется объектом. Правда, эта первичная картина в фокальной плоскости совершенно не похожа на объект, не повторяет его контуры, но тем не менее заключает в себе полную информацию о нем.
Далее, рассуждает Аббе, ничто не мешает волнам, собравшимся в первичную картину, распространяться дальше в сторону второй линзы телескопической системы — окуляра. Пройдя через окуляр, все эти волны достигают экрана, расположенного там, где по расчетам геометрической оптики должно возникнуть изображение. И оно возникает — не просто повторяя контуры объекта, но и увеличивая или уменьшая его размеры.
Удивительно просто, лишь немного усложняя схему мысленного опыта, Аббе объясняет все загадки в поведении оптических инструментов, начиная с таинственного воздействия диафрагмы. Если поместить диафрагму в фокальную плоскость объектива, она закроет часть первичной картины. То, что пройдет дальше к окуляру и через него на экран, будет содержать неполную информацию об объекте. А неполная информация и есть искажение. Чем меньше отверстие в диафрагме, тем меньшая информация об объекте проходит через нее к экрану. Если диафрагма очень мала, информация об объекте полностью теряется.
Аббе простым опытом продемонстрировал, как изображение теряет всякое сходство с объектом, как оно оказывается тесно связанным с формой и расположением диафрагмы. Он объяснил и то, почему разрешающая сила оптического прибора уменьшается вместе с диаметром диафрагмы — уменьшение диафрагмы ограничивает наклон лучей, проходящих через прибор. При этом диафрагма отсекает лучи, идущие с большим наклоном, не допускает их к участию в формировании изображения. Такую же роль играет и оправа объектива.