Вынужденные покинуть Волгу, казаки вернулись на Дон, но часть их двинулись за Волгу. В конце июня — начале июля 1581 г. отряд атамана Нечая напал на ногайцев, разорив их столицу Сарайчик, располагавшуюся в низовьях реки Яик (Урал), положив тем самым начало яицкому казачеству. Окончательно казаки утвердились на Яике в 1586 г., поставив на Кош-Яицком острове напротив устья реки Илек постоянный городок. Ногайцы попытались уничтожить казачью крепость, долго осаждая ее, но, потерпев поражение, вынуждены были отступить. К концу XVI в. казачьи городки находились по всему Яику. С 1591 г. уральские казаки служили в рядах русского войска. Власть московского царя яицкие казаки признали при Михаиле Федоровиче, а до этого, по их воспоминаниям, «жили…немалое время своевольно, ни под чьею державою». Подобно донцам, яицкие казаки первоначально жили небольшими общинами, образовавшимися вокруг городков. Единая казачья область (Войско) возникла на Яике в 50-е гг. XVII в. В воинском искусстве яицкие казаки не уступали донцам, поддерживая с ними тесную связь, получая оттуда пополнения и помощь, а в случае необходимость и укрытие. В 1636–1637 гг. в донском городке Голубые проживал Иван Яковлевич Поленов, который в 1636 г. был есаулом в войске яицких казаков, взявших персидский город Фарабад.
6 апреля 1579 г., за два года до разгрома Сарайчика, большой отряд волжских казаков (540 человек), был нанят на службу крупнейшими русскими солепромышленниками Строгановыми. Владения этих купцов, находившиеся на восточных границах Московского государства, постоянно тревожили набегами сибирские татары и подвластные им племена хантов и манси. Казачье войско, во главе которого стоял атаман Ермак Тимофеевич, понадобилось Строгановым не для обороны, а для нападения. Количество нанятых купцами казаков было действительно велико (оно заметно превосходило число, например, всех гребенских и терских казаков), однако Строгановы еще больше увеличили его за счет собственных отрядов. 1 сентября 1581 г. в поход за Уральские горы выступило около 1500 воинов, вооруженных самым современным для того времени оружием, в том числе семипяденными пищалями и испанскими аркебузами. Кроме Ермака казачью армию возглавляли атаманы Иван Кольцо, Яков Михайлов, Никита Пан и Матвей Мещеряк. Закаленное в боях с ногайцами, казачье войско сравнительно легко сломило сопротивление сибирских татар и разгромило Орду Кучума. На завоеванных в Западной Сибири территориях стали возникать русские города и остроги, гарнизоны которых состояли преимущественно из служилых казаков. Первой столицей русской Сибири стал Тобольск, где в 1638 г. было 102 конных и 525 пеших казаков, а в 1651 г. 109 конных и 368 пеших казаков, не считая казаков так называемого «литовского списка», которые несли службу вместе с иноземцами. При сопоставлении цифр бросается в глаза значительное сокращение числа пеших казаков, по-видимому, переведенных в остроги Восточной Сибири.
Во второй половине XVI в. несколько отрядов волжских казаков, продвигаясь по западному берегу Каспийского моря, достигли реки Терека на Северном Кавказе и Гребенских гор, где стала складываться новая казачья область. Первое достоверное упоминание о вольных казаках на Северном Кавказе относится к 1563 г. Но малочисленность обосновавшихся здесь вольных людей изначально вынуждала их действовать в союзе с русскими воеводами, стремившимися укрепиться на Северном Кавказе. Важной вехой в истории терского и гребенского казачества стало построение в 1567 г. Терского городка, заложенного в месте впадения Сунжи в Терек. Несмотря на временный уход царских войск с Терека в 1571 г., казаки остались на Кавказе, продержавшись там до возобновления Терского города в 1578 г. Их городки даже выросли за счет уходивших на юг «схожих» людей. В 1592–1593 гг. 600 вольных казаков «с Терка» совершили нападение на турецкие владения на Таманском полуострове, разграбили и сожгли посады крепости Темрюк. В годы Смутного времени, подобно другим казачьим юртам, часть терцев «заворовала». Именно здесь началось движение «Лжепетра», поддержанного 300 казаками во главе с атаманом Федором Бодыриным. Втайне от других терцев, оставшихся с воеводой П. П. Головиным, восставшие ушли на Волгу для грабежа купеческих судов. Поводом к мятежу стала невыплата казакам царского жалованья. Впоследствии 4-тысячное войско Лжепетра выступило к Путивлю и приняло участие в восстании, начатом Г. П. Шаховским и И. И. Болотниковым.
События Смутного времени привели к значительному сокращению численности терского казачества, в XVII в. объединившегося в сравнительно немногочисленное Терское казачье войско. Если в 1638 г. «вольных атаманов и казаков, которые живут на Терке-реке» значилось 356 человек, то уже в 1651 г. там было 440 терских и гребенских атаманов и казаков.