Широкое использование многоалфавитных шифров прекратилось в 1863 году, когда майор прусской армии Фридрих Вильгельм Казиски (1805–1881) издал книгу на 95 страницах «Искусство тайнописи и дешифрования» (нем. Die Geheimschriften und die Dechiffrierkunst), в которой изложил метод раскрытия многоалфавитного шифра с повторяемым ключевым словом (лозунгом), ранее считавшегося абсолютно криптостойким.
Казиски предложил определять длину лозунга статистически, доказав, что расстояния между повторениями в шифротексте будут равны или кратны длине лозунга. После того, как количество букв в лозунге было определено, шифротекст разбивался на отрезки, которые равнялись длине лозунга, и задача сводилась к раскрытию шифра простой замены, что не составляло большого труда для криптоналитиков того времени.
Основное содержание книги заключалось в изложении методов криптоанализа шифров типа Виженера, которые иногда называли короткопериодическими шифрами гаммирования или лозунговыми шифрами гаммирования. При использовании такого шифра периодически повторяющиеся сочетания букв открытого текста, совпадая с периодическими продолжениями лозунга (исходной гаммы), порождали совпадающие сочетания букв в шифротексте. Эти повторения могли быть эффективно использованы при дешифровке.
В 1881 году в Вене была издана книга Флейснера (1825-88) «Руководство по криптографии» (нем. Handbuch der Kryptographie). Автор вошел в историю криптологии как изобретатель ещё одного шифра перестановки букв — знаменитой «решётки» (или «пробуравленных патронов»). Практически же им была развита идея итальянца Джироламо Кардано, который в 1556 году первым предложил использовать для тайной переписки особые трафареты, в окошки которых вписывались буквы шифра.
В 1883 году криптология получила новые идеи, изложенные в труде под названием «Военная криптография» (фр. La cryptographie militaire) объёмом в 64 страницы. Его автором был голландец Жан Вильгельм Губерт Виктор Франсуа Александр Огюст Керкхофс Ван Ньювенгоф (1835–1903). Интересно, что он не был ни военным, ни профессиональным шифровальщиком, а преподавал иностранные языки и математику.
Опираясь на знание в отрасли лингвистики и математики, автор провел сравнительный анализ шифров, на основании которого сформулировал требования к шифрам и сделал вывод, что практический интерес представляли только те шифры, которые остались стойкими даже при интенсивной переписке.
Своё знакомство с криптологией Керкхофс начал с изучения телеграфных военно-полевых шифров. Он особо подчёркивал, что в отличие от переписки старого времени, телеграф значительно увеличил объёмы обмена информацией. Это порождало новые требования к шифрам. В результате Керкхофс сформулировал общие требования к шифрам, актуальные и сегодня:
— простота практического использования;
— надёжность;
— операции шифрования и дешифровки не должны требовать значительных затрат времени и т. п.
«Военная криптография» в первый раз была опубликована двумя частями в журнальном варианте в январе и феврале 1883 года, а позже, в том же году, была переиздана в виде отдельной брошюры. Керкхофс обладал уникальной способностью выделять главное в любом предмете и всего на 64 страницах своей книги сумел найти ответы на многие вопросы, которые встали перед криптологией в результате возникновения новых условий. При этом предложенные решения были умными и хорошо обоснованными.
Керкхофс подтвердил тот принцип, что только дешифровщики могли со знанием дела определять надёжность шифра. Понятно, об этом догадывались и без него. В XVII веке французский криптоаналитик Россиньоль создал достаточно стойкий номенклатор, а в Англии их составлением занимались исключительно дешифровщики. Но после закрытия ЧК во многих странах Европы об этом принципе почему-то забыли.
Во всяком случае этот критерий оценки надёжности номенклатора не применялся к более сложным шифрам, которые предлагались в XIX веке. Их изобретатели вместо того, чтобы вынести свои шифры на суд криптоаналитиков, имевших большой практический опыт, стремились оценить их стойкость самостоятельно. Они самоуверенно подсчитывали, сколько веков пойдёт на испытание всех ключей, или доказывали, что практически невозможно пробиться через какой-либо элемент шифра. Керкхофс изучил это негативное явление и вынес о нём такое суждение:
«Я поражён тем, что наши учёные и профессора преподают и рекомендуют для применения в военное время системы, ключи к которым, несомненно, менее чем за час откроет самый неопытный криптоаналитик… Можно также полагать, что отсутствие серьёзных работ по искусству прочтения тайнописи способствовало распространению самых ошибочных идей о стойкости наших шифрсистем».