Отбор личного состава из лагерей военнопленных Орши, Могилева, Смоленска, Витебска и Гомеля производился самим Кононовым. В могилевском лагере из 4000 желающих он отобрал 405 казаков и 137 не казаков. К концу октября в Могилеве им была сформирована 102-я казачья добровольческая часть, позднее переименованная в 600-й казачий дивизион. В разных источниках это формирование именуется полком, дивизионом или батальоном. Сами казаки-кононовцы могли именовать свою часть полком, но по немецким реестрам она числилась дивизионом. К 15 сентября 1941 года в Могилев прибыло более 1 тысячи добровольцев, и к 19 сентября у Кононова были 77 офицеров, 201 урядник и 1521 казак.
По свидетельству все того же Малофеева набор военнопленных в полк, Кононов проводил в Смоленском госпитале следующим образом:
«…По требованию Кононова и Риттберга излечившихся военнопленных выстроили и объявили им, что с этого дня они зачисляются в казачий полк. Так как большинство из них казаками не были, им объявили, что всех не казаков делают казаками, а после войны поселят на Дону и присвоят казачье звание. Точно так же производился набор в полк в госпиталях и лагерях… Основной принцип набора. хорошее физическое состояние…»
Уже 27.29 октября в районе деревень Шепелевичи. Мортяновичи. Глубокое под Могилевом сотнями Кононова был уничтожен советский десантный отряд майора Яснова и старшего батальонного комиссара Гущенко численностью около двух батальонов. Десантники потеряли 171 человека убитыми, 348 ранеными и 257 пленными. Казаки потеряли 63 человека ранеными и 29 убитыми.
В начале 1942 года кононовцы приняли участие в боях против партизан и корпуса генерал-майора П.А. Белова под Вязьмой, Полоцком, Великими Луками. 22.24 ноября 1942 года группа сотника Сидорова захватила военный трибунал одного из советских корпусов, освободила 9 красноармейцев, приговоренных к расстрелу и 23 арестанта, сидевших под замком. С весны 1942 года батальон успешно воевал против партизан в районе близ Могилева.
В 1942 году Кононов был произведен в чин подполковника (войскового старшины). В ноябре-декабре 1942 года началось переформирование 600-го казачьего батальона в дивизион. В феврале 1943 года кононовская часть включала в себя штаб, 6 кавэскадронов, 3 эскадрона мотоциклистов и артдивизион. всего около 2300 человек. На базе батальона был сформирован 17-й казачий танковый батальон, вошедший позднее в подчинение 3-й танковой армии под Великими Луками в конце мая 1942 года.
В январе 1943 года казаков посетил генерал-лейтенант Власов. С момента встречи с будущим руководителем Ос161 вободительного Движения Кононов стал его убежденным сторонником. 15 апреля 1943 года в дивизионе вспыхнуло восстание.
Большая часть 3-го и 4-го эскадронов и артдивизиона, перебив часть военнослужащих, ушла в лес к партизанам. В июне 1943 года ушли к партизанам 16 казаков во главе с эмигрантом князем Н.М. Гагариным.
В этой обстановке Кононов получил приказ об отправке своей части в Польшу на полигон в Млау (Млаве), где с апреля 1943 года начала формироваться 1-я Казачья кавдивизия Вермахта.
Здесь он не смирился с кадровой политикой, проводимой командиром дивизии полковником Х. фон Паннвицем в части касающейся назначения командирами дивизионов и выше исключительно немецких офицеров. Паннвиц пошел навстречу строптивому офицеру и назначил его на должность командира 5-го Донского казачьего полка 2-й Кавказской бригады полковника Боссе. В кононовском полку все офицерские должности занимали казачьи, а не немецкие офицеры.
В конце сентября 1943 года части дивизии начали перебрасывать в Югославию для борьбы с партизанами. Здесь полк Кононова был отмечен боевыми отличиями за борьбу с местными повстанцами и занимал первое место по грабежам в партизанских деревнях. Сказывался российский опыт.
В 1944 году Конононов получил чин полковника, был отмечен Железными Крестами 1-го и 2-го классов, Рыцарским крестом Хорватской державы, многочисленными «восточными» медалями.
В ходе боевых действий в Югославии кононовцы отличились в Босанском походе 2-й Кавказской бригады Боссе зимой 1943.1944 гг., в районе Загреба в августе 1944 года, где уничтожили ряд баз титовцев, в кровопролитном штурме Баньи-Луки в сентябре 1944 года. Отличился полк Кононова и в боях на фронте с наступающими частями Красной Армии.
О состоянии 5-го Донского полка говорилось в приказе по полку № 179 от 11 декабря 1944 года:
«1. Полк совершил в течение нескольких дней очень большой марш. Из моих личных наблюдений я установил, что многие офицеры, вахмистры и унтер-офицеры уделяли большое внимание порядку, дисциплине и боевой готовности своих подразделений. Особенно я отмечаю 2-й дивизион, который свыше 300 километров прошел пешком, и, несмотря на усталость людей, я видел порядок и дисциплину. Вчера особенно отличился 8-й эскадрон, который энергично сбил противника, захватив тяжелый пулемет. Командиру эскадрона, командирам взводов, вахмистрам, унтер-офицерам и казакам эскадрона объявляю благодарность.