Осенью 1933 г. Гармаев, по заданию японцев, провел мобилизацию всех мужчин бурят и монголов, проживавших тогда в Маньчжурии, в возрасте от 20 до 30 лет и годных к военной службе. В результате он сформировал два кавалерийских полка и роту железнодорожной охраны. Гармаев проводил среди них регулярную агитацию в пользу того, чтобы они несли «честную службу стране, их приютившей, и миролюбиво относились к японцам»[1530]
. Эти подразделения были дислоцированы на границе с Монголией. Японцы поручили Гармаеву с помощью этих подразделений организовывать вооруженные конфликты в зонах территориальных споров. За эти заслуги в апреле 1934 г. ему присвоили чин генерал-майора Маньчжурской армии и командующего «охранными частями».В 1936–1937 гг. Гармаев руководил операциями по розыску и разгрому китайских партизан, скрывающихся в Хинганских горах. Очевидно, это делалось им успешно, поскольку в 1938 г. он становится генерал-лейтенантом[1531]
. К началу 1940-х гг. японские войска и силы Гармаева разгромили большую часть партизан из Северо-Восточного объединения антияпонской армии. Кроме того, с 1936 г. он также занимался и вооруженными провокациями на спорных участках на границе с Монголией.Также из его отряда японцы отбирали бурят и монголов для совершения диверсий в СССР. В распоряжении Гармаева были созданные им же пограничные части из бурят. За время несения службы под его командованием они задержали десять советских и монгольских разведчиков. По данным Гармаева, «часть агентов перевербовывалась и с заданием перебрасывалась в Советский Союз». Также была создана контрразведка, а точнее, отдел информации из местных жителей, в которой служили главным образом демобилизованные солдаты из его отряда. Целью отдела был поиск советских разведчиков и борьба с антияпонскими настроениями.
В 1939 г. Гармаев потерпел неудачу со своими двумя полками и пограничным отрядом в столкновениях с советскими и монгольскими коммунистическими войсками на реке Халхин-Гол. Как русских, так и японцев сильно подвели китайцы, входившие в армию Маньчжоу-Ди-Го, которые не желали драться за японские интересы. Недаром Родзаевский и другие видные русские фашисты невысоко оценивали боеспособность воинских частей Маньчжоу-Ди-Го[1532]
. Впоследствии он заявил: «Мне было поручено японским командованием обеспечить охрану правого фланга войск генерал-лейтенанта Комацубара в районе южнее озера Буир-Нур. Для выполнения этой задачи мне в помощь была придана артиллерия. Лично я непосредственного участия в боях не принимал, но полки, входившие в состав моего отряда, вели бои»[1533]. Фактически его отрядом тогда командовали японские офицеры, а Гармаев был отстранен от командования. По его данным, «подчиненные мне монгольские части потеряли около 100 человек убитыми и ранеными. После окончания боев на р. Халхин-Гол оба полка были отозваны в Хайлар и с тех пор не участвовали в охране границы». Оказалось, что неудача частей Гармаева была из-за неравенства сил: против двух его полков дрались две красные монгольские дивизии Чойбалсана, поддерживаемые советскими артиллерией и авиацией[1534].Советские военные также невысоко оценивали боевые качества армии Маньчжоу-Ди-Го, приводя много случаев сдачи в плен советским войскам таких частей и переходы маньчжурских войск на их сторону. Одной из причин этого было слабое и очень старое вооружение Маньчжурской армии. Японцы вооружали оружием, списанным со складов японской армии: винтовками «маузер» 1888 г. выпуска, малокалиберными пятизарядными японскими винтовками и карабинами[1535]
.К тому же среди личного состава маньчжурских частей отмечалась низкая мораль и ненависть к японцам. Это было доказано целым рядом восстаний в этих войсках и переходами к партизанам[1536]
.В мае 1940 г. на территории Северо-Хинганской и Восточно-Хинганской провинций был создан 10-й военный округ Маньчжоу-Ди-Го, которым до 1944 г. командовал Гармаев. В этот округ вошли бывшие охранные войска из русскоязычных граждан, кавалерийские и артиллерийские подразделения, части связи, транспорта и медицины.
Вместе с тем Гармаев был не только военным, но и вел контрразведывательную работу по выявлению лиц, сотрудничавших с разведкой СССР, и подписал десятки смертных приговоров уличенным в этом. Среди уничтоженных было немало русских, входивших в воинские и полицейские отряды на японской службе. Дело в том, что советские власти через завербованных ими лиц проводили кампанию дискредитации русских отрядов и выставляли их как шпионов[1537]
.За период 1932–1945 гг. Гармаев получил 3 ордена и 7 медалей «за добросовестную и усердную службу» у японцев и маньчжуров. Кроме того, ему неоднократно за это же вручались денежные премии.