В июле 1642 года парламент принял решение о наборе 10-тысячной армии «для защиты палат, истинной религии, свободы, законов и мира», назначив главнокомандующим графа Эссекса. 42-летний Кромвель в чине капитана возглавил добровольческий отряд из 60 всадников, в который входили крестьяне и ремесленники.
Кромвель, будучи абсолютно неподкупным человеком и ревностным пуританином, по-своему воспитывал солдат и офицеров. Он требовал от всех кристальной честности и железной дисциплины, запретил грабить местное население и сквернословить.
Кромвель ввел некоторые новшества, например повременную оплату за военную службу. Как правило, кавалерия Кромвеля шла в наступление не галопом, а рысью. Это давало отряду свободу маневра и позволяло наносить удар в слабые места неприятеля. Изменилось и вооружение кавалериста. Все солдаты и офицеры конницы Кромвеля имели кремневые пистолеты. В начале атаки при сближении с противником они стреляли из пистолета, а затем обнажали мечи и бились врукопашную. Кромвеля и его солдат, носивших стальные кирасы, прозвали «железнобокими». Действия его кавалерийского отряда получили высокую оценку сторонников парламента, и Кромвель стал командиром полка в чине полковника. «Железнобокая» кавалерия победила роялистов в жестоких боях при Грантхэме, Гейнсборо и Уинсби в 1643 году. Полк Кромвеля, состоявший из 14 эскадронов, был вдвое больше обычного конного полка.
Кромвель стал инициатором реформы вооруженных сил и организации армии новой модели. 19 декабря 1644 года парламент принял «Билль о самоотречении», согласно которому парламентарии не могли занимать командные должности в армии. Новым главнокомандующим был назначен генерал Томас Ферфакс, а его заместителем — Оливер Кромвель, одновременно возглавлявший кавалерию парламентских сил.
По предложению заместителя главнокомандующего Оливера Кромвеля парламент сформировал армию численностью 22 тысячи человек. Она состояла из 10 полков кавалерии, полка драгун и 12 полков пехоты.
Полководческий талант Кромвеля раскрылся в череде сражений. Во время 1-й гражданской войны парламентская армия нанесла несколько серьезных поражений армии английского короля, особенно значимой была битва при Марстон-Муре 2 июня 1644 года. Тогда 18 тысяч роялистов во главе с принцем Рупертом сражались с 27-тысячной парламентской армией и ее союзниками-шотландцами под командованием лорда Ферфакса, Манчестера и Ливена. Яростную атаку кавалерии роялистов успешно отбили «железнобокие» солдаты Оливера Кромвеля. Они и решили исход битвы после того, как противник разгромил правое крыло парламентской армии. После этой победы Кромвель установил контроль над северной частью Англии.
Свои боевые возможности армия парламента показала в решающем сражении у Нейзби 14 июня 1645 года. Здесь столкнулись 13-тысячная армия Томаса Ферфакса и 9 тысяч роялистов под командованием короля Карла I (фактически войсками руководил принц Руперт). После первого натиска конница роялистов отбросила левое крыло неприятеля и стала преследовать отступавших. В этот момент кавалеристы Кромвеля пошли в атаку на правом фланге. Королевская конница, увлекшаяся преследованием, не успела вернуться к своим главным силам, и кавалеристы Кромвеля почти полностью уничтожили пехоту роялистов. Победители захватили 5 тысяч пленных и всю артиллерию королевских войск. Король Карл I сдался в плен.
После пленения Карла I и победы английского буржуазного парламента ситуация в стране резко изменилась. Начались сильные крестьянские волнения, вызванные политикой правительства в защиту нового дворянства и промышленников. Эти волнения затронули и парламентскую армию, которую значительно сократили без выплаты денежных задолженностей. Оливер Кромвель жестоко подавлял волнения солдат и даже устраивал показательные казни бунтовщиков.
Когда в Англии началась 2-я гражданская война, Оливер Кромвель возглавил армию парламента в качестве главнокомандующего. Решающее столкновение с королевскими силами произошло в середине августа 1648 года недалеко от Престона. В битве участвовали 4 тысячи роялистов во главе с сэром Лангдейлом и почти 9-тысячное войско Кромвеля. Он первым атаковал неприятеля, и после четырех часов упорного сражения сторонники монархии почти все были перебиты или взяты в плен. Это сражение и падение осажденных роялистов в Колчестере завершили 2-ю гражданскую войну.
Участвуя в суде над Карлом I, Кромвель согласился на казнь короля и уничтожение в Англии монархии и парламентской палаты лордов. 30 января 1649 года король Карл I Стюарт был казнен. В феврале парламент объявил Англию республикой, фактически провозгласив новый политический строй в Европе.
В 1650 году парламент официально назначил Кромвеля лордом-генералом — главнокомандующим вооруженными силами Английской республики. Но парламентская армия и так находилась в его руках уже несколько лет.