Первым подразделением, полностью вооруженным а, стал 59-й Сентай (командир — полковник Иссаноу Имагава), сформированный 1 июля 1938 года в Кагамигахара, префектура Гифу, на базе ядра 1-го Хико Рентая. 1 августа 1938 года 2-й Хико Дайтай — первая регулярная часть IJAAF, вооруженная Ki-27, была переименована в 64-й Сентай (командир — майор Тамия Тераниши). В сентябре и октябре Ki-27 полностью сменили устаревшие бипланы Ki-10 в обеих Чутаях этого подразделения В августе 1938 года 11-й Хико Рентай в Харбине, Маньчжурия, стал 11-м Сентаем (командир — подполковник Юджиро Ногучи и был перевооружен на Ki-27. К концу 1938 года ещё две истребительные группы, вооруженные Ki-27, были объявлены боеготовыми: 1 сентября — 24-й Сентай (командир — подполковник Коджиро Мацумура) в Хайларе, Маньчжурия, а 5 ноября — 1-й Сентай (командир — подполковник Тошио Ката) в Кагамигахаре, Япония.
В июле — августе 1938 года первые Ki-27 поступили в 9-й и 10-й Докурицу Чутай в Китае (японские авторы пишут названия подразделений следующим образом: Докурицу Хико Дэй — Кю Чутай, что значит Докурицу Хико 9 Чутай, но на западе принято ставить номер перед названием подразделения, как в этой книге). 9-й Докурицу Чутай был сформирован в июле 1937 года в Пхеньяне, Корея, на базе истребительных подразделений расформированного 6-го Хико Рентая. В августе 1938 года (по другим данным — в феврале 1939 года) 9-й Докурицу Чутай (командир — капитан Горо Сузуки) был включен как 3-й Чутай в состав 63 Сентая. В ноябре 3-й Чутай был отделен от своего Сентая и послан на защиту Кантона, только что занятого японскими войсками. В это же время (по другим данным — 1 июля 1939 года) это подразделение стало отдельным 84-м Докурицу Чутаем (командир — капитан Магоджи Хара) 10-й Докурицу Чутай (командир — капитан Кийоши Кимура) был сформирован в сентябре 1937 года в Пингдонге, Формоза (ныне Тайвань), на базе истребительных Чутаев 8-го Хико Рентая. 24 августа 1938 года пять Ki-27, по всей вероятности из 10-го Докурицу Чутая (иногда в литературе упоминается 33-й Сентай, но он в то время не имел на вооружении самолетов этого типа), перехватили гражданский Дуглас DC-2 "Гуйлинь" Китайской Национальной Воздушной Корпорации (CNAC) приблизительно в 70 км от Гонконга. Поврежденный самолет рухнул в реку около Вангмука, похоронив вместе с собой четырнадцать пассажиров.
Во второй половине 1938 года наступление японской армии развивалось столь стремительно, что среди прочих она захватила город Сучжоу, а вместе с ним и стратегически важную железную дорогу, которая связывала Пекин и Нанкин-Кантон, Ханчжоу, Ханькоу и индустриальные районы. Истребительные подразделения IJAAF (например, вооруженные Ki-27 59-й и 64-й Сентай, а также 9-й и 10-й Докурицу Чутай) в то время действовали в центральном и южном районах Китая — Сучжоу, Ханькоу и Кантон — обеспечив японцам господство в небе. Потрепанные китайские ВВС были осенью 1938 года выведены на базы, находившиеся за пределом радиуса действия японских бомбардировщиков, и воздушные бои стали крайне редким явлением и основная тяжесть борьбы легла на авиацию флота. Большинство подразделений армейских ВВС были переброшены в Маньчжурию, где они в основном летали на поддержку войск. Так Ki-27 принимали участие во вторжении на остров Хайнань в феврале 1939 года, а в марте и апреле — в атаках на Нанчанг. 29 апреля семь Ki-27b столкнулись с двадцатью китайскими И-152, сбив, по японским данным, 12 из них. Сами японцы потеряли один или два самолета.
Бои в небе Китая показали, что Ki-27 был отличным истребителем. Лишь немного уступавшим по маневренности бипланам и значительно превосходившем их по остальным летным характеристикам. Относительно слабое вооружение и отсутствие бронирования не оказали существенного влияния на эффективность Ki-27, подтверждая разумность выбора Коку Хомбу. Кроме того, на опыте эксплуатации Ki-27 были сформулированы требования для истребителя следующего поколения — Накадзима Ki-43 "Хаябуса"