В мае 1942 года в структуре IJAAF появилась новая организационная единица Кокуган (воздушная армия), которая объединяла под общим командованием все Хикошиданы и другие отдельные подразделения, действующие в одной оперативной зоне, осуществляя полный контроль их деятельности. Первоначально было организовано три армии: 1-й Кокуган в Японии (штаб-квартира в Токио), 2-й Кокуган в Маньчжоу-го и Корее (штаб-квартира в Хсинкине) и 3-й Кокуган в Малайе, Индокитае, Бирме и голландской Ост-Индии (штаб-квартира в Сингапуре). В 1943 году было сформировано ещё две армии: 4-й Кокуган на Филиппинах и Новой Гвинее (штаб-квартира в Маниле) и 5-й Кокуган в Китае (штаб-квартира в Нанкине). В конце 1944 года была организована последняя армия — 6-й Кокуган (штаб-квартира в Фокуоке, Япония), главной задачей которой была защита Японских островов. В апреле 1945 года четыре Кокугана, базировавшиеся в Японии, Китае и Корее — 1-й, 2-й, 5-й и 6-й — были объединены под эгидой Кокусуган (Главной воздушной армии).
В 1943 году было сформировано ещё несколько частей, вооруженных Ki-27. 63-й Сентай (командир — майор Магоджи Хара), на который возлагались задачи обеспечения ПВО Хоккайдо, был сформирован 25 февраля в Хачинохе, префектура Аомори на севере Хонсю. Его ядро составил персонал из 54-го и 244-го Сентаев и 104-го Кьоику Хикорентая. В июле в Донгджинченге, Маньчжурия, был организован 30-й Сентай (командир — подполковник Кьоши Канзаки); первоначально он был предназначен для решения задач штурмовки, но затем его переквалифицировали в истребительный. Также в июле в Жуандао, Маньчжурия, из персонала 77-го Сентая и 204-го Кьодо Сентая был сформирован 48-й Сентай (командир — майор Macao Мацуо). Подразделение было признано боеготовым в ноябре того же года, а Ki-27 использовались в нем для тренировок до апреля 1944 года. Для обучения и тренировок Ki-27 использовались и в 18-м Сентае (командир — майор Ринзо Исозука), сформированном в декабре в Чофу (возле Токио) из персонала 244-го Сентая.
В сентябре 1943 года Ki-27 попали в Сусей Сентотай (временную истребительную группу) под командованием капитана Канаме Наган, организованную в Сунджио около Харбина, Маньчжурия. 25 августа 1944 года эту часть переименовали в 25-й Докурицу Чутай и она перешла под оперативное управление 104-го Сентая (командир — майор Ямато Токияма). В том же месяце она поменяла свои Ki-27 на Ki-43. В 1943 году Ki-27 были сняты с вооружения многих подразделений: 13-го и 18-го Сентаев в апреле; 9-го и 70-го Сентаев и 204-го Кьодо Сентая в мае; 63-го, 244-го, 246-го, 248-го Сентаев в июле; знаменитого 77-го Сентая в августе; 26-го Сентая в сентябре; 4-го Сентая в конце года.
Последним боевым подразделением, где использовалось некоторое количество Ki-27 (исключительно для тренировок), был 101-й Сентай (командир — майор Ёнага), сформированный в июле 1944 года в Кито-Изе и около Нагои, Япония. С 1943 года большинство Ki-27 в боевых подразделениях использовались как тренировочные или даже связные, а их функции взяли на себя истребители Накадзима Ki-43 "Хаябуса", Накадзима Ki-44 "Секи", Кавасаки Ki-45 "Торю" и Кавасаки Ki-61 "Хиен", а с 1944 года ещё и Накадзима Ki-84 "Хаяте" и Кавасаки Ki-100.
В учебных подразделениях
Всеми проблемами, связанными с набором и обучением летного и технического персонала, занималась Коку Сокамбу (Генеральная Инспекция Армейской Авиации). Обучение летного персонала, включая летчиков-истребителей, осуществлялось в несколько этапов в армейских летных школах (Рикугун Хико Гакко), которые были организованы в нескольких городах в Японии и Маньчжоу-го. Пилотов IJAAF, показавших выдающиеся успехи, посылали на офицерские курсы в Армейские воздушные академии (Коку Сикан Гакко). Наземный персонал обучался в Армейской школе авиационных техников (Рикугун Коку Сеиби Гакко) в Токуразаве, Япония.