Однако весь очерченный край за исключением больших речных долин фактически был еще в руках кочевых народов, с одной стороны – остатков Золотой Орды, а с другой – новых передовых отрядов крымских татар. С усилением крымской орды ее кочевья распространились почти по всему Миусскому округу и дальше по Донцу. Следами этих кочевьев считают между прочим валы, рвы, крепостцу и развалины жилищ с правой стороны Донца выше Каменской станицы при балке Рыгиной (Донецкого округа).
С другой стороны подобно польско-литовским и московские окраины выделяли группу недовольных элементов, искавших в степях приключений и легкой наживы и одинаково опасных соседей как для татар, так и для мирных подданных Московского государства. В 1538 г. ногайский мирза Кельмагмед жаловался Ивану Грозному на их грабежи, в ответ на что царь отвечал: «казанцы, азовцы, крымцы и иные – баловни казаки, а и наших украин казаки, с ними смешавшись, ходят, и те люди – как вам тати, так и нам тати и разбойники». К середине XVI в. эти выходцы в нижнем течении Дона уже окончательно сформировали своеобразную общину, о деятельности которой князь ногайский Юсуф писал царю: «холопи твои, некто Сарыазман словет на Дону, в трех и четырех местах городы поделали». Иван Грозный однако еще мог отвечать с полным правом: «те разбойники живут на Дону без нашего ведома и от нас бегают». Это и понятно, так как московская правительственная колонизация находилась еще слишком далеко в то время, именно близ Тульской укрепленной черты, и открыто принимать сторону таких отдаленных вольных колонистов было еще преждевременно. Затем в 1551 г. турецкий султан просил ногайского князя унять донских казаков, которые
Первые поселения казаков, о которых упоминалось в приведенных жалобах, были сосредоточены по низовьям Дона между Черкасской и Цымлянской станицами, т. е. были отделены большими промежутками от непосредственных московских владений, так как вольное казачество пока еще опасалось преследований со стороны московского правительства, действуя исключительно на свой страх и риск; но уже в конце XVI в. казачьи городки и зимовища были рассеяны сплошной лентой на протяжении 800 верст, от устья р. Хопра до р. Аксая, и несколько городков встречалось по р. Донцу.
По мере усиления налогового гнета и ухудшения положения крестьян, а также после разорения русской земли во время смут междуцарствия прилив на Дон беглецов из пределов Московского государства чрезвычайно усилился, отчасти пополняясь и выходцами из Малороссии. Наконец в 1667 г. сюда бежали раскольники, основавшие свои скиты по верховьям Дона, Хопру, Медведице, Бузулуку и Донцу.
О необыкновенном росте казачьего населения в течение XVII в. можно судить по тому, что в середине этого столетия по Донцу, Хопру, Медведице и Жеребцу насчитывалось около 30 городков, а к концу столетия – до 125, причем они составляли 11 станиц. Все казачье население распадалось на две группы – верховых и низовых казаков, границею обитания которых служил Цымлянский городок.
С ростом казачьего населения принимала законченные формы донская казачья община, в силу этнографических особенностей великоруссов значительно отличавшаяся от Запорожской Сечи малоруссов. Управление и суд были сосредоточены в войсковом круге, в состав которого входило все казачье взрослое мужское население, находившееся в данный момент в главном казачьем городке – «Главном войске». Для разрешения же особенно важных дел ожидали обыкновенно прибытия казаков и из других мест. С умножением населения и отдельные городки получили свои станичные круги, где решались местные дела. Главными городками войска донского в течение XVI в. были Раздоры (станица Раздорская), а с 1622 г. – Монастырский городок (в 6 вер. ниже Черкасска на Дону); с 1637 по 1643 г. управление сосредоточивалось в Азове, который казаки отняли на время у турок; а с 1643 по 1645 г. – на Махином острове (на левом берегу Дона в 5 вер. от Ольгинской станицы) и наконец, с 1645 г. – в Черкасском городке или Черкасске (ныне станица Старо-Черкасская).
Исполнительными органами были атаман и войсковый есаул, избираемые ежегодно; делопроизводством заведывал войсковой дьяк. В походах избирали особого походного атамана. Войско делилось на сотни и полусотни и находились под начальством полковников, хорунжих, сотников и пятидесятников. Духовенство у казаков сначала было выборное, но с 1689 г., после раскольничьего восстания было заменено назначаемым, подчиненным воронежскому епископу.
Главным своим занятием казаки считали походы. Низовые казаки на своих легких ладьях обыкновенно спускались по Дону, нападали на турецкую крепость в его устье Азов, затем опустошали Крым и турецкие города по берегам Черного моря. Верховые казаки предпочитали совершать свои разъезды по Волге, нередко разбивали торговые караваны, не разбирая своих и чужих, затем по Каспийскому морю добирались до берегов Персии, которые и грабили. По возвращении из походов казаки «дуванили» весь «дуван» (т. е. делили добычу) поровну.