В 1920 году Калинин поступает в Институт инженеров Красного Воздушного Флота. В 1922 г. институт был преобразован в Военновоздушную академию имени Н. Е. Жуковского, а Константин Алексеевич был исключен как неблагонадежная личность. До диплома ему оставалось меньше года. Калинин переезжает в Киев, где продолжает образование на 4-м курсе в Политехническом институте. (В это время ему было уже 35 лет.) А в 1923 году его, уже более чем образованного авиатора, назначают заведующим конструкторским бюро Киевского завода «Ремвоздух-6», где он начинает работу над собственным проектом. Результатом работы становится самолет К-1. Это был четырехместный (три пассажира) пассажирский самолет, подкосный высокоплан с двигателем «Сальмсон» в 170 лошадиных сил. Фюзеляж был первый в Союзе ферменный, без проволочных растяжек, сварен из стальных труб. Обшивка самолета до конца пассажирской кабины алюминиевая, дальше — полотняная. Оригинальным решением для того времени была закрытая кабина летчика. Крыло самолета имело эллиптическую форму. В инициативную группу Калинина входили также Томашевич, Грацианский, Руденко. Летом 1925 года К-1 прошел испытания, а в сентябре на нем был совершен перелет в Москву. Самолет был признан пригодным для службы в Гражданском воздушном флоте.
Впоследствии Калинин выпустил 16 типов самолетов различных модификаций под марками от К-1 до К-13. Все самолеты Константина Калинина имели много общего в схемах и конструкциях. Это были монопланы подкосные и свободнонесущие, обычно с крылом и горизонтальным оперением эллиптического очертания. Калинин пошел на усложнение технологического процесса (производство эллиптического, а не прямоугольного, крыла), ради улучшения летных качеств, и это решение, в целом, себя оправдало. Эллиптическое крыло стало узнаваемым во всех самолетах марки К. В 1929 году английский журнал «Флайт» писал: «Эллиптическое крыло самолетов Калинина — самый большой вклад русских в передовые позиции мировой авиации». (Биографы часто прямо называют Калинина отцом «летающего крыла».)
Конструкция калининских самолетов обычно была смешанной — каркас фюзеляжа с вертикальным оперением был сваренный из стальных труб, крыло обычно деревянное (хотя были и исключения), обшивка — полотняная. Многие деревянные детали в последующих самолетах Калинина могли полностью заменяться металлическими. Недефицитные материалы, легкая ремонтируемость, заменяемость деталей делали самолеты Константина Алексеевича экономичными, а спрос на самолеты в СССР вскоре начал резко расти — импортная техника была слишком дорогой. Это, с одной стороны, помогло Калинину сделать неплохую карьеру, с другой, наверное, и погубило его. Денег выделяли немного, приходилось изобретать все новые способы сэкономить, экспериментировать с советскими двигателями, дешевыми материалами, «залатывать» дыры в срочном порядке, поскольку требовалось сдать новый самолет к назначенной дате.
Многие решения авиаконструктора явно опережали свое время, были использованы за рубежом через много лет.
В связи с успехом К-1 было решено перевести Калинина на новую производственную базу в столичный Харьков. Константин Алексеевич со второй женой и сыном перебрался сюда в январе 1926 года. В свое распоряжение он получил мастерские Укрвоздухпути (ранее принадлежавшие производственному объединению «Дорнье»). База через некоторое время получила название «Гражданское опытное самолетостроение» (ГРОС). 17 сентября 1926 года на базе мастерских был создан знаменитый ныне Харьковский авиационный завод. Его первым директором стал Константин Алексеевич Калинин. (Авиаконструктор был директором всего лишь до декабря этого же года, но затем еще дважды занимал эту должность.)
К маю 1926 года КБ под руководством Калинина разработало проект самолета К-2. Новый самолет был без деревянных элементов. Остов фюзеляжа выполняли из тонких стальных труб с помощью газовой сварки. Как и в предыдущей машине, крыло имело в плане правильную эллиптическую форму. Более мощный двигатель БМВ-IV позволил увеличить грузоподъемность и довести число пассажиров до четырех. 12 мая 1927 года на харьковском аэродроме состоялся первый полет нового самолета. Испытания подтвердили надежность машины. В то же время Калинину стало ясно, что цельнометаллическая конструкция оказалась сравнительно тяжелой и нетехнологичной, а главное — дорогой. В дальнейшем она не повторялась. А К-2 с успехом применялся для аэрофотосъемки и картографирования многих районов страны. В этом же году был выпущен первый специализированный советский санитарный самолет — К-3, в котором особое внимание было уделено салону, мебели, расположению дверей, подогреву — всему тому, что необходимо для нормальной транспортировки и оказания помощи пострадавшим. Самолет был значительно легче предыдущего, что позволило увеличить его скороподъемность, машина могла садиться и взлетать на местности, далекой от идеальной.