Как и у всех кочевников, каждый сармат был воином и участвовал в войнах, что позволяло царям выступать в походы с многочисленным войском. Но кроме этого ополчения существовали еще и дружины профессиональных воинов, служивших племенным вождям и царям и кормившихся именно за счет войны. Это были отборные воины в хороших доспехах, которые составляли ударное ядро армии.
Сражение, как правило, начинали конные лучники, которые должны были ослабить вражеский строй. Так свои бои начинали и скифы, но было существенное отличие. Если первыми залпами не удавалось расстроить вражеские боевые порядки, сколоты отходили, брали новые стрелы и повторяли все еще раз. Сарматы же после обстрела смело шли в атаку и переходили к рукопашной схватке. На острие атаки шли лучшие воины из числа аристократов и дружинников, которые действовали мечами и копьями, за ними атаковали прочие кавалеристы.
Чтобы одерживать победы над скифами этого, как правило, хватало, но когда сарматам пришлось столкнуться с регулярной пехотой, выяснилось, что и греческая фаланга, и римский легион степной коннице не по зубам. В одном из сражений в Крыму между кочевниками и воинами понтийского царя Мит-ридата, сарматов ждал полный разгром. Греческий писатель Страбон так описал произошедшее: «Против сомкнутой и хорошо вооруженной фаланги всякое варварское войско оказывается бессильным. И действительно, роксоланы в числе почти пятидесяти тысяч не могли устоять против шести тысяч, бывших под началом полководца Диофанта, и большинство их погибло».
Объективно говоря, Страбон прав, любая конница того времени в прямом столкновении с фалангой не имела ни малейшего шанса на успех. Причин было две. Во-первых, еще не были изобретены стремена, из-за чего лишенный опоры всадник не мог наносить эффективных таранных ударов копьем, да и вообще мог легко свалиться с коня. Это, кстати, влияло и на скорость передвижения, ведь всаднику приходилось держаться лишь ногами, из-за чего посадка была очень жесткой и все колебания лошадиной спины прямо передавались на пятую точку всадника. Второй причиной были сами кони. Крупных и тяжелых животных, способных одной массой опрокидывать и растаптывать пехотинцев, знакомых нам по фильмам и картинам о рыцарских временах, в то время еще не существовало. Античные лошади были значительно меньше, легче и слабее современных, что еще больше усложняло положение кавалериста в бою. Недаром, по мнению античных полководцев, конница была лишь вспомогательной силой, а кавалеристы часто спешивались для боя. Греческий стратег 4 века до н. э Ксенофонт так учил своих подчиненных: «Мы (пехотинцы) гораздо сильнее всадника, который обязан держаться на хребте лошади в совершенном равновесии. Мы, упираясь твердою ногою, поражаем сильнее, и вернее попадаем в цель. У всадника против нас выгода одна: скорее спастись бегством».
Оказавшись рядом с центрами эллинской цивилизации, сарматские племена активно включились в торговый и культурный обмен с греческими городами. Кочевники поставляли скот и другие продукты своего хозяйства, а в ответ завозили предметы роскоши, вина, ткани, ювелирные и гончарные изделия.
Четыре столетия сарматы безраздельно господствовали на огромных пространствах. На западе они дошли до римских границ и произошло столкновение двух систем: оседлого народа и кочевников, тяжелой пехоты регулярных легионов Рима и сарматской тяжелой кавалерии. Лучшие армии Европы и Степи сошлись, чтобы выяснить, кому главенствовать в Восточной Европе. В конце концов, граница осталась неизменной, но римляне, оценив всю мощь тяжелой кавалерии, пришли к выводу, что лучше иметь сарматов друзьями. В результате был заключен договор, по которому римляне обязывались каждый год присылать сарматам денежную помощь, а те в ответ взялись охранять границы империи от прочих варваров и послали восьмитысячный кавалерийский корпус на римскую службу. Эти воины проходили службу аж в Британии, и, по мнению некоторых авторов, стали прообразом героев кельтских легенд о короле Артуре и его рыцарях. Впрочем, римско-сарматские войны вспыхивали и вдальнейшем с завидной регулярностью, но не приносили успеха ни одной из сторон.