22.3.1963 г. генерал-майор Герчик назначен начальником штаба — заместителем командующего и членом Военного совета крупнейшей в Ракетных войсках 50-й ракетной армии. Армия имела в своем составе 9 ракетных дивизий и 2 учебных центра и дислоцировалась на территории Белоруссии, Прибалтийских республик, Смоленской, Новгородской, Калининской и Калининградской областей. Штаб армии располагался в Смоленске.
Управление ракетной армии, созданное на базе управления воздушной армии, не имело опытных специалистов-ракетчиков, и Константин Васильевич поставил задачу сделать его высокопрофессиональным оперативным органом управления. Он разработал принципиально новую систему оперативной и боевой подготовки штабов и войск. Он лично и при помощи специалистов учил офицерский состав управления армии, штабов соединений и частей ракетному делу. Он провел ряд оперативно-тактических учений по действиям войск армии в условиях активного воздействия противника по позиционным районам. Начальник штаба был высоко требовательным командиром, ценил профессионализм, трудолюбие, инициативу подчиненных и сам являлся примером в службе и жизни. В 1968 г. Герчику присваивается воинское звание генерал-лейтенант.
5.7.1972 г. генерал-лейтенант Герчик назначен командующим 50-й ракетной армией. Он ввел в обиход неожиданные посещения каждой дивизии для детального изучения деловых и морально-психологических качеств руководящего состава соединений и частей, а также положения дел в них. Командующий требовал глубокого понимания сущности боевой готовности, боевого управления, умения воспитывать и обучать личный состав, найти в работе главное звено. Тем, кому были не по душе требования командующего, пришлось уйти. В войсках армии были осуществлены масштабные мероприятия по повышению живучести ракетных комплексов и пунктов управления. Герчик подготовил армию к ведению боевых действий в любых условиях обстановки и действий противника. За короткое время смоленская армия стала одной из лучших в Ракетных войсках. Опыт ее распространялся в других объединениях РВСН. 13.2.1976 г. К. В. Герчику присваивается звание генерал-полковник.
Герчик — председатель Военного совета армии. Был председателем Государственной комиссии по испытаниям подвижного ракетного комплекса «Темп-2С» главного конструктора А. Д. Надирадзе. Константин Васильевич всегда активно участвовал в общественной и государственной работе. Он — делегат IX съезда Компартии Казахстана (1959), XXVIII съезда Компартии Белоруссии (1975). XXV съезда КПСС (1976). Член Центрального Комитета Компартии Белоруссии (1974–1978), член бюро Смоленского обкома партии, депутат Верховного Совета Казахской ССР (1959), Верховного Совета Белорусской ССР (1975), депутат Смоленского городского Совета депутатов трудящихся (1967, 1971), Смоленского областного Совета депутатов трудящихся (1973). К. В. Герчик — кандидат военных наук (2.2.1967 г.). Награжден 14-ю орденами и 25-ю медалями, в том числе: двумя орденами Ленина (29.7.1960, 21.2.1974), орденом Октябрьской Революции (21.2.1978), двумя орденами Красного Знамени (21.2.1942, 22.2.1968), орденом Трудового Красного Знамени (17.6.1961) — за осуществление запуска в космос Ю. А. Гагарина, орденом Кутузова 3-й степени (27.5.1945), двумя орденами Отечественной войны 1-й степени (14.07.1947, 1985), тремя орденами Красной Звезды (9.02.1943 — за боевые отличия, 3.11.1953 — за выслугу лет, 21.12.1957 — за осуществление запуска первого ИСЗ), орденом Белого Льва 2-й степени ЧССР (5.5.1975).
Генерал-полковник Герчик уволен в запас 2.8.1979 г. в Севастопольский РВК Москвы. Долгие годы он являлся председателем межрегионального Совета ветеранов космодрома Байконур. Умер К. В. Герчик 24 июня 2001 г.