Новые порядки, которые вводятся в армии с окончанием Отечественной войны, побуждают Оржицкого выйти в отставку в достаточно скромном чине штабс-майора. Это было время отставки и А.А. Алябьева, и легендарного Дениса Давыдова, и дружного с ними Степана Бегичева. Едва ли не единственный раз – во время походов – интересы императора сошлись с интересами столь беспокоившей Александра I гусарской вольницы с ее независимым нравом, чувством собственного достоинства, свободолюбивыми мечтами. Принадлежность собственного отца к той же фронде побуждает Л.Н. Толстого попытаться разобраться в существовавшем конфликте. Он напишет об отце: «Как большая часть людей первого Александровского времени и походов 13, 14 и 15-го годов, он был не то что теперь называется либералом, а просто, по чувству собственного достоинства, не считал для себя возможным служить ни при конце царствования Александра I, ни при Николае… Даже все друзья его были люди такие же свободные, не служащие и немного фрондирующие правительство».
Но «немного фрондирующий» – это не об Оржицком. Убеждения Оржицкого совершенно определенны и носят чисто политический характер. Он принадлежит к декабристскому движению. Среди его ближайших друзей – К.Ф. Рылеев и А.А. Бестужев. В архивном фонде управления коменданта Петропавловской крепости есть дело от 22 декабря 1825 года об очной ставке П.Г. Каховского со слугой К.Ф. Рылеева в Петропавловской крепости для установления адреса Оржицкого, к которому послал его Рылеев. Оржицкий не был арестован в числе первых, и сам Рылеев сделал все, чтобы не упоминать имени друга.
Лихой гусар следует его примеру. Он не выдает никого из товарищей. Ответы Оржицкого на Следственной комиссии исполнены внутреннего достоинства, и ни разу в них не проскальзывает страх за собственную участь. На вопрос, кем подсказан ему «свободный образ мыслей», былой гусар отвечает: «Понимая под свободным образом мыслей привычку не руководствоваться мнением других, а рассуждать по собственному своему рассудку, не мог я оный позаимствовать от кого другого, как от самой природы, давшей мне способность рассуждать».
На этот раз никакие родственные связи не могли облегчить участи Оржицкого. За арестом последовало лишение чинов и дворянства, и только меньшая по сравнению с другими участниками восстания «вина», с точки зрения Следственной комиссии, определила его ссылку не в Сибирь, а рядовым на Кавказ, на театр военных действий. В том же архиве управления коменданта Петропавловской крепости есть другое дело – о разрешении Оржицкому увидеться с сестрой, которой он оставляет доверенность на управление имением. Это потребовало трех встреч – 20 июня, 9-го и 12 июля 1826 года.
Бывший герой 1812 года определяется солдатом в Кизлярский гарнизонный батальон, затем в Нижегородский драгунский полк, где становится унтер-офицером. По всей вероятности, у командира полка Н.Н. Раевского-младшего летом 1829 года Оржицкий встречается с Пушкиным. Недолгое знакомство пробуждает у обоих дружеские чувства, так что поэт думает ввести своего нового знакомца в первую главу «Путешествие в Арзрум». Во всяком случае, Оржицкого можно угадать в одной из фраз пушкинского черновика: «15 пар тощих и малорослых быков, окруженных полунагими осетинцами, тащили легонькую венскую коляску моего приятеля Ор… Это зрелище разрешило все мои сомнения. Я решился отправить мою тяжелую коляску обратно во Владикавказ и верхом доехать до Тифлиса».
Спустя три года прапорщик Оржицкий выходит в отставку и становится соседом Пушкина по Михайловскому. Былой гусар окончательно поселился в своем находившемся недалеко от Порхова поместье. К этому времени он оставляет поэзию или, если быть точным, отказывается от каких бы то ни было публикаций, хотя когда-то его строки появлялись на страницах «Сына отечества», перечитывались вместе со стихами Дениса Давыдова. Появившееся в печати в 1819 году стихотворение «Прощание гусара» стало настолько популярным, что имя автора в конце концов забылось. О поэте и вовсе перестали вспоминать, когда «Прощание гусара» было переложено на музыку А.А. Алябьевым. Родившийся романс стал памятью об Отечественной войне, сражениях, о гусарской вольнице.