В основу повести легла история похода Таманской армии — один из драматичнейших эпизодов гражданской войны на юге России. В марте 1918 года в борьбе против контрреволюционного казачества на Кубани начали формироваться революционные отряды. В июне — июле и начале августа в связи с массовым характером белогвардейских восстаний революционные отряды объединяют свои силы, создав единый Таманский фронт. В августе 1918 года контрреволюционным восстанием была охвачена почти вся Кубань, Екатеринодар взят белыми, армия под командованием Сорокина — основные большевистские силы Северного Кавказа — отступила из Кубани в Терскую область. Войска, находившиеся на Таманском полуострове, оказались отрезанными от основных советских частей. Чтобы сохранить Таманскую армию, командование вынуждено было выводить ее в обход, по берегу Черного моря, через Новороссийск, Туапсе, Кавказские горы на Кубань. Армия прокладывала себе дорогу с боями. Ее преследовали белоказачьи отряды с тыла и с левого фланга, она натыкалась на боевые заслоны грузинских меньшевиков, державших в своих руках Туапсе, при переходе через Кавказский хребет на Кубань вела бои с отборными белоказачьими войсками генерала Покровского. Вместе с армией двигалась многотысячная толпа беженцев, которые под страхом белого террора покинули родные станицы. Отступление шло по голодным местам, а армия была плохо вооружена и не обеспечена продовольствием. Тем не менее поставленная цель была достигнута: Таманская армия пробилась к своим. В станице Курганной произошла встреча с отдельными отрядами Северо-Кавказских войск, а после взятия Армавира 23 сентября 1918 года таманцы соединились с главными силами.
О пятисотверстном походе Таманской армии Серафимович знал уже в 1920 году. Упоминание о нем есть в очерке «Несите им художественное творчество» (сентябрь 1920 г.) ив записной книжке среди записей 1920 года (см. «А. С. Серафимович. Сборник неопубликованных произведений и материалов». М., 1958, с. 492). Но возможность использования этих событий как основы для художественного произведения по-настоящему раскрылась для писателя, когда он в 1921 году познакомился с командиром Таманской армии Епифаном Иовичем Ковтюхом.
Рассказы Е. Ковтюха и других участников похода захватили писателя, и в 1921 году он начал работу над «Железным потоком». «Из каких элементов сложился материал? — вспоминал он в статье „Из истории „Железного потока““. — Рассказы таманцев были положены мною в основу. Это был первым материал — материал со слов. Затем я использовал еще материал записей, дневники и письма участников похода. Третий источник материала — печать, — правда, здесь я нашел немного» (А. С. Серафимович. Собр. соч. в семи томах, т. 7, М., 1960, с. 313).
В сюжете «Железного потока» сохранена основная канва исторических событий, их реальная последовательность, с большой точностью передана идейная эволюция, которую пережила Таманская армия за время своего похода. Серафимович очень близок фактам в передаче батальных эпизодов. Многие герои повести имеют реальных прототипов. На вопрос одного французского рабочего: «Неужели действительно жил такой Кожух?» — Е. И. Ковтюх отвечал: «Да, дорогой товарищ, я жил, живу и командую красным стрелковым корпусом… В „Железном потоке“… совершенно правильно передан славный поход Красной Таманской армии, в котором я принимал участие, будучи командующим 1-й Таманской колонной, а затем и армией. Моя постоянная фамилия — Ковтюх» (газ. «Рабочая Москва», 1928, № 47, 24 февраля).
Работа над повестью продолжалась два с половиной года. Серафимович добивался наиболее полного и четкого раскрытия главной идеи — закономерности превращения в процессе борьбы за Советскую власть крестьянской массы в революционную организованную силу. «Я ставил себе задачей, — писал он, — дать реальную правду, но правду, конечно, не фотографическую, а правду синтетическую, обобщенную» (А. С. Серафимович. Собр. соч. в семи томах, т. 7. М., 1960, с. 315).
Впервые «Железный поток» был опубликован в альманахе «Недра» (М., 1924, кн. 4), с подзаголовком «Из цикла „Борьба“». В то время писатель рассматривал повесть как одну из частей большого цикла произведений, посвященных революции. Позже он от этого замысла отказался.