Брак по расчету не был счастливым, а рождение мертвого сына еще больше осложнило отношения между супругами. Анастасия Александровна в 1901 году уехала в Хабаровск сестрой милосердия, оставив детей на отца. Когда через год она вернулась, семейная жизнь Маннергеймов не пошла на лад. Супруги решили расстаться. Анастасия Александровна, взяв с собой дочерей, уехала за границу.
Когда вспыхнула русско-японская война, Маннергейм вызвался отправиться добровольцем на фронт. Он хотел подкрепить свою дальнейшую карьеру опытом боевого офицера. Братья и сестры, а также вернувшийся к тому времени в Финляндию отец не одобрили его намерений. Если поступление молодого Маннергейма на службу в русскую армию не вызвало особого возражения у его родственников и знакомых – царю и раньше служили многие скандинавские дворяне, – то добровольное желание воевать за царскую Россию следовало расценивать как полную солидарность с политикой самодержавия в Финляндии. Карл Густав Эмиль понимал и в какой-то степени разделял доводы родственников, но своему решению не изменил: совестно было вести светскую жизнь, когда коллеги-офицеры проливали кровь на войне.
На полях сражений Русско-японской войны ставший уже подполковником Маннергейм показал себя храбрым и грамотным офицером. В начале 1905 года он проводил разведывательные операции в окрестностях Мукдена, которые дали высшему командованию ценную информацию о планах японцев, а их исполнителю – чин полковника.
Не случайно, что в 1906 году Маннергейм был отправлен Генштабом в «инспекционную», а на деле чисто разведывательную двухлетнюю поездку в Китай. Маннергейм как подданный Великого княжества Финляндии как никто подходил для такой цели. К тому же формально он был в экспедиции французского синолога, профессора Сорбонны П. Пэллио и для маскировки должен был заниматься этнографическими и другими научными исследованиями.
Фискарс. Таким же мальчишкой здесь когда-то бегал Маннергейм
Полковник Маннергейм, по инструкции Генштаба, должен был уточнить, насколько можно рассчитывать на поддержку местного населения в случае вторжения русских войск во Внутреннюю Монголию. Он предпринял поездку к границам Индии, исследовал положение в соседних с Внутренней Монголией китайских провинциях Синьцзян и Шаньси, нанес визит жившему в изгнании на южной границе пустыни Гоби тибетскому далай-ламе, в котором царское правительство видело своего союзника в возможном будущем столкновении с Китаем. Маннергейм усердно вел дневник, записывая собираемые им этнографические, лингвистические и исторические сведения. Через два года он, побывав на обратном пути в Японии, вернулся через Пекин и Харбин в Петербург. По возвращении полковник написал секретный доклад для Генерального штаба и опубликовал этнографическую статью в научном журнале, долго редактировал свой дневник и письма. Они были опубликованы только в 1940 году и переведены на многие языки.
Маннергейм считал эти два года самыми интересными в своей жизни, любил рассказывать о приключениях в Китае. В его «Воспоминаниях» глава «Верхом через Азию» – одна из самых длинных и живо написанных.
Его приключения заинтересовали также Николая II. При докладе он так очаровал императора, что тот, никого не умевший слушать больше десяти минут, внимал Маннергейму почти полтора часа.
Во время этой аудиенции Маннергейм попросил царя дать под его команду полк. В 1909 году он уехал в Польшу командовать полком. А в 1912 году его назначали командиром элитарного лейб-гвардии Его Величества уланского полка, размещенного в Варшаве. Благодаря новому назначению Маннергейм получил очередное звание генерал-майора и свободный доступ к царю, так как эта должность делала его придворным. А непосредственно перед Первой мировой войной последовало новое повышение: генерал-майор Маннергейм был назначен командиром особой лейб-гвардии Его Величества Варшавской кавалерийской бригады
Уже 15—17 августа 1914 года бригада Маннергейма вела кровопролитные бои в окрестностях Ополе с главными силами наступавших австро-венгерских войск, Маннергейм применял тактику активной обороны, которая в дальнейшем была для него характерна и приносила успех: послал третью часть своих войск в тыл противника и тем самым заставил его остановить наступление и перейти к обороне. Это была одна из немногих успешных операций русской армии в начале войны. Маннергейм получил боевую награду – орден Святого Георгия на эфес шашки (кстати, из почти полутора сотен своих наград он особенно выделял именно георгиевскую ленту).
В марте 1915 г. командующий армией генерал Брусилов, бывший начальник Маннергейма с петербургских времен, передал в его подчинение 12-ю Кавалерийскую дивизию. В 1915—1916 годах он в качестве командира дивизии – а по сути дела корпуса, так как ему, как правило, были подчинены другие части численностью до 40 тыс. человек – участвовал с переменным успехом во многих операциях.