Вернувшись в СССР, Рокоссовский не покинул Забайкалья: с октября 1928 года он становится командиром все той же 5-й отдельной Кубанской кавбригады. Теперь он не только командир бригады, но он и ее военный комиссар. Введение единоначалия в Красной Армии было важнейшим мероприятием военной реформы. Институт военных комиссаров, введенный партией в 1918 году и сыгравший существенную роль в годы строительства Красной Армии во время гражданской войны, постепенно должен был уступить место единоначалию. В ноябре 1928 года по указанию ЦК партии было принято Положение о комиссарах, командирах-единоначальниках и помощниках по политической части, согласно которому ответственность командира за все стороны жизни а армии значительно возрастала. Введение единоначалия способствовало резкому укреплению дисциплины и повышению боевой готовности наших вооруженных сил.
Той же цели служила и учеба всех командиров армии, как бы высоко ни было» их звание. Для того чтобы командиры частей и соединений всегда были в курсе всех происходивших в Красной Армии изменении, командование практиковало их регулярную переподготовку на специальных курсах. В январе 1929 года был командирован в Москву на курсы усовершенствования вывшего начальствующего состава (КУВНАС) и Константин Рокоссовский.
Учебные занятия на курсах были организованы отлично. Преподаватели, как правило, лучшие специалисты в области тактики в оперативного искусства, стремились помочь своим слушателям усвоить ряд важнейших оперативно-тактических и специальных тем, познакомить их с образцами новой техники и вооружения, которое в это время начало поступать в части Краевой Армии.
На курсах, как и ранее, как и всю последующую жизнь, Рокоссовский очень увлекался военной теорией. Он не пропускал ни одной новинки, стремился приобрести все выходящие книги по военным вопросам. А советская военная наука конца 20-х – начала 30-х годов могла удовлетворить вкусы самых высоких знатоков военного дела. Книги по военному искусству появлялись в тот период в большом количестве.
В первую очередь внимание Рокоссовского привлекали работы крупнейшего советского военачальника Михаила Васильевича Фрунзе, отстаивавшего необходимость создания единой военной доктрины, которая определяла бы дальнейший характер строительства Советских Вооруженных Сил. Тогда же, в конце 20-х годов, появился капитальный труд Б. М. Шапошникова «Мозг армии», где анализировалась роль Генерального штаба в современной армии. С интересом знакомился Рокоссовский с работами М. Н. Тухачевского, С. С. Каменева, А. И. Корка и других видных военачальников. Оживленные дискуссии среди командиров Красной Армии вызвала книга заместителя начальника штаба РККА В. К. Триандафиллова «Характер операций современных армий». С большой смелостью и глубиной автор рассматривал перспективы развития армий того времени.
Приходилось только жалеть, что занятия на курсах так кратковременны – всего два месяца. Горя стремлением преложить полученные знания к работе, возвращался Рокоссовский в апреле 1929 года в Забайкалье, к своим кубанцам, с которыми он свыкся и которых полюбил за годы совместной службы. Предстояло на деле использовать приобретенные знания для дальнейшего укрепления боеспособности 5-й отдельной Кубанской кавбригады. Части и соединения Красной Армии на востоке нашей Родины должны были находиться в состоянии полной боевой готовности.
С сентября 1927 года штаб 5-й отдельной Кубанской кавбригады размещался в военном городке. Бригада имела задачу прикрыть границу на реке Аргуни, и это требовало и от командира, и от личного состава полной отдачи сил. Восточная граница СССР на протяжении всех лет после окончания гражданской войны была тревожной и опасной, а с конца 1928 года положение на ней еще более осложнилось.
Китайские милитаристы, поддерживаемые империалистами Англии, Франции, США и белоэмигрантами, в большом числе проживавшими на территории Маньчжурии, захватили летом 1929 года принадлежавшую СССР Китайско-Восточную железную дорогу (КВЖД)7, грубо нарушив тем самым существовавшее с 1924 года советско-китайское соглашение о совместном управлении дорогой. Более двух тысяч советских граждан – служащих КВДЖ, были арестованы и брошены в концлагерь. После этого на наших дальневосточных границах, от Владивостока до станции Маньчжурия, усилились налеты китайских солдат и белогвардейских отрядов. Особенно известными советским людям стали в это время станция Маньчжурия и разъезд № 86, где изо дня в день китайские солдаты устраивали провокации.