Судьба забросила его на Северный Кавказ в 1837 году. В тот год он получает чин майора с назначением в Кавказское линейное казачье войско. Он становится командиром Горского линейного казачьего полка, воевавшего в Чечне. Так началось его долгое, до последнего дня жизни, участие в длительной Кавказской войне.
В те годы начинается подъём имама Шамиля и активность боевых действий в Нагорном Дагестане и Чечне. Горский казачий полк постоянно участвует то в боях на Кавказской укреплённой линии, то в военных экспедициях в горы и заповедные леса предгорий Кавказа. Круковскому доводилось раз за разом подтверждать своё умение командовать полком в боевых ситуациях.
В 1840 году он участвует в «делах» при чеченских аулах Чемулго и Шеналук. В бою на реке Фортанге получает пулевое ранение в шею. За конные атаки войска мюридов награждается орденом Святого Владимира 4-й степени с бантом.
В 1841 году Круковский со своим казачьим линейным полком участвовал во многих боях на территории Малой и Большой Чечни. В следующем году выполнял задачу по охране от нападений «немирных» чеченцев территорий по верхнему течению рек Терек и Малой Кабарды, то есть земель «мирных» осетин и кабардинцев.
Командование Отдельного Кавказского корпуса (русских войск на Кавказе) высоко ценило тактическое искусство полкового командира. В конце 1842 года он принимает командование над одним из самых прославленных полков Кавказского линейного казачьего войска — Хопёрским, который был сформирован в своё время из переселившихся на Терек казаков с Верхнего Дона, подвергшегося в ходе восстания Булавина страшному опустошению.
В следующем году Феликс Круковский прославился тем, что во главе четырёхсот конных хопёрцев отбил ночное нападение примерно четырёхтысячного отряда противника на станицу Бекешевскую, рассеял его и тем спас город Пятигорск от разорения. Этот бой сделал Круковского знаменитым, о нём заговорили и казаки, и горцы.
За Пятигорское дело командир Хопёрского казачьего полка производится в полковники. А боевой орденской наградой ему стал Святой Георгий 4-й степени.
…В 1845 году полковник Ф. А. Круковский назначается командиром Нижегородского драгунского полка, самого прославленного полка регулярной кавалерии русской армии в войнах на Кавказе. С нижегородцами он участвует в ряде экспедиций в Чечне и Дагестане.
В середине 1840-х годов, вершины успехов имама Шамиля, драгунам под его командованием довелось участвовать в целом ряде трудных боёв. Они ещё больше прославили решительного и бесстрашного Круковского. Это были бои в Гойтинских и Гехинских лесах, на реке Мартана.
Окончательно стать казаком Феликсу Антоновичу пришлось в 1848 году. В тот год он производится в генерал-майорский чин и назначается наказным атаманом Кавказского линейного казачьего войска, с которым за девять лет войны на Кавказе Круковский сроднился и на поле брани, и в быту.
В те годы Кавказская война по-настоящему бушевала, вызывая огромный накал страстей с обеих сторон. В 1849–1851 года генерал-майор Круковский в качестве начальника конного отряда участвует в боях с «немирными» горцами за Кубанью, на реке Белой и в Чечне (на правом фланге Кавказской укреплённой линии) в экспедициях под общим командованием генералов Завадского и Нестерова.
Казаки-линейцы могли гордиться не только умелым командованием своего наказного атамана, но и его бесстрашием и отвагой. Примером личной храбрости казачьего генерала может служить то, что он объезжал в условиях войны сторожевые пикеты без всякого конвоя, в сопровождении только одного казака-проводника.
Наказной атаман Кавказского линейного казачьего войска Ф. А. Круковский погиб вместе со своим конвоем 18 января 1852 года в бою в чеченском ауле Шаухал. Случилось это в ходе военной экспедиции князя А. В. Барятинского к верховьям реки Гойты.
В тот день авангардная колонна под командованием генерал-майора Круковского подошла к лесным хуторам близ аула Дуба и укрепления Урус-Мартан. Казаки были посланы вперёд. Выбив стрелков-чеченцев, засевших за завалами, атакующие казаки-линейцы ворвались в аул, который уже никто не защищал, и рассыпались по нему.
Опасаясь, что они могут быть разбиты поодиночке или небольшими группами, Круковский в сопровождении конвоя из двадцати казаков-линейцев и майора Полозова, поскакал к только что взятому аулу, в котором ещё не утихла ружейная пальба. Он остановился на площади у мечети, приказав трубачу играть сигнал сбора.
В это время из мечети грянул ружейный залп. Приметный по форме генерал был смертельно ранен несколькими пулями. Конвой пришёл в замешательство. Почти сразу же из близкого оврага выскочили в большом числе горцы, которые ударили в шашки, окружив конвойных казаков. Ординарец Круковского казак Толчанинов попытался было вынести командира с поля боя. Но Круковский только и успел сказать ординарцу:
— Брось меня и спасайся сам.
Толчанинов, однако, не оставил Круковского в беде и в рукопашной схватке был изрублен вместе с генералом. Погиб и почти весь конвой: казаки, встав в круг перед мечетью, дорого продавали свои жизни.