Бронеплощадка как основа бронепоезда представляла собой усиленную четырехосную или двухосную железнодорожную платформу (реже металлический пульмановский вагон), имевшую стальной корпус с одной или двумя орудийными башнями. Состояла она из верхней части — кузова, закрытого, как правило, 20–25-миллиметровой броней сверху и 45-миллиметровой броней с боков, а также нижней части — рамы с ходовыми частями (тележками), рессорами, упряжными и буферными устройствами. Орудийная башня крепилась на металлическом каркасе внутри бронеплощадки. Позднее на бронепоездах «Смерть немецким оккупантам!» (депо имени Ильича), «Козьма Минин», «Илья Муромец», «Московский железнодорожник» устанавливали башни от танков Т-34. Башня вращалась на 360 градусов, что позволяло артиллеристам вести круговой обстрел. Для входа в башню и подачи в нее снарядов в броне были сделаны двери, а под ними — запасные люки. Верхняя часть башни имела вырез-амбразуру для пушки и окно для пулемета. Позднее для оборудования бронепоездов стали применять танковые телескопические прицелы.
В первые месяцы Великой Отечественной войны чаще встречались однобашенные четырехплощадочные бронепоезда, построенные в Брянске. Эти мощные боевые машины с отвесными бортами, высокими и прямыми клепаными башнями имели высоту пульмановского вагона. На их вооружении обычно были четыре 76-миллиметровых короткоствольных орудия образца 1902 или 1927/1932 годов, восемь станковых пулеметов систем «максим», «ДТ» («Дегтярев танковый»), бельгийский «браунинг». Станковые пулеметы устанавливались в специальных амбразурах, по два на каждой стороне бронеплощадки. Дальность стрельбы из орудий бронепоездов составляла 6–8 километров.
Но, как показали в дальнейшем бои 1941–1942 годов, брянские бронепоезда с такими площадками оказались легкоуязвимыми.
Новое слово в сооружении броневой техники зимой 1941 года сказали строители Горького и Мурома, создавшие бронепоезда «Козьма Минин» и «Илья Муромец». Приземистые, обтекаемой формы, вооруженные мощной броней бронеплощадки являлись техническим новшеством среди крепостей на колесах.
В ходе боевых действий бронепаровоз ставился между броневыми площадками и обязательно тендером к противнику. Команда «Назад» означала практически движение вперед и выполнялась машинистом путем перевода реверса и открытия регулятора. Команда «Вперед» обозначала движение бронепоезда от линии фронта. По отношению к бронепаровозу правая и левая стороны именовались бортами — правым и левым.
К боевой части бронепоезда для хозяйственных и служебных целей присоединялись 6–20 товарных и классных вагонов, называемых базой. Они использовались для расположения командного состава дивизиона (вагон-штаб), хранения боеприпасов, запасов материально-технических средств. Кроме того, база имела еще вагон-кухню, вагон-мастерскую, вагон-клуб. При ведении боя база должна была размещаться в тылу на ближайшем железнодорожном перегоне.
Для тщательного наблюдения за исправностью железнодорожного пути использовались контрольные двухосные платформы.
Для обеспечения разведки и вспомогательных функций дивизионам бронепоездов придавались бронедрезины (БД-39), бронемашины (БА-20), грузовые машины (ГАЗ-АА).
Еще в ходе гражданской войны многим бронепоездам типа «Б» стали придаваться десантные отряды численностью до 320 человек. В августе 1920 года была издана Инструкция РВС РСФСР о применении десантных отрядов, согласно которой командир десантного отряда в ходе боевых действий всецело подчинялся командиру бронепоезда.
В дни Великой Отечественной войны для закрепления боевого успеха, вызванного внезапным появлением бронепоезда, наносящего кинжальный огонь по противнику, использовались также десантные роты. Большое мужество в боях проявили десантники особого бронепоезда № 2 «За Родину!» и бойцы десантно-минометной роты 31-го отдельного Горьковско-Варшавского дивизиона бронепоездов.
В первые месяцы Великой Отечественной войны каждый из бронепоездов в организационном отношении действовал самостоятельно. Но уже к октябрю 1941 года началось массовое объединение бронепоездов в отдельные дивизионы (ОДБП). В ноябре 1941 года по указанию Государственного Комитета Обороны (ГКО) было создано 40 новых дивизионов бронепоездов. Их материальная часть строилась в тыловых депо, на заводах НКПС, эвакуированных на Урал и в Сибирь.