Начиная с французской кампании САУ активно использовались в боевых действиях, в том числе в Северной Африке (605-й дивизион истребителей танков) и на Восточном фронте. Последние сведения об участии этих машин в боях относятся к концу 1942 года. С мая 1941 года эта пушка устанавливалась и на шасси трофейного французского танка R35. До октября 1941 года были изготовлены 174 самоходные установки Panzerjäger 35R (f).
Сам факт появления в Вермахте самоходных противотанковых орудий не случаен. С одной стороны он являлся частью общего процесса создания широкой номенклатуры самоходно-артиллерийских установок, необходимых для повышения мобильности артиллерийских подразделений в составе танковых и моторизованных дивизий. С другой — вполне соответствовал тактике применения немецких танковых соединений.
Для Панцерваффе было характерно наличие в штате большого числа противотанковых орудий. Так, например, к началу операции «Барбаросса» в составе немецкой танковой дивизии в среднем имелось 45 37-мм и девять 50-мм противотанковых пушек, в моторизованной дивизии — 102 37-мм и девять 50-мм. Кроме того, для противотанковой обороны могли привлекаться (и привлекались) легкие и тяжелые пехотные орудия, малокалиберная зенитная и дивизионная гаубичная артиллерии. В состав дивизионных боевых групп, в случае необходимости, включались орудия корпусной артиллерии и 88-мм пушки тяжелых зенитных дивизионов Люфтваффе.
В соответствии с организацией выстраивалась и тактика применения танковых соединений. При встрече с обороняющимся противником танки с ходу никогда в атаку не бросались. Разведка боем проводилась силами мотострелковых подразделений, велась активная разведка на флангах, выявлялись слабые места в обороне, а затем, после авиационной и артиллерийской подготовки, наносился сосредоточенный танковый удар при обязательной пехотной поддержке, как правило, на флангах. В случае атаки советскими танковыми подразделениями, немецкие танки, в большинстве случаев, от встречного боя уклонялись. Они оттягивались назад, в свою очередь вперед выдвигалась пехота, противотанковая артиллерия, и немедленно вызывалась авиация. В случае необходимости подтягивалась тяжелая артиллерия. Таким образом, противнику, повсеместно атаковавшему практически без всякой пехотной, артиллерийской и авиационной поддержки, навязывался огневой бой на заведомо невыгодных для него условиях.
Однако со временем и немецкая артиллерия стала нести серьезные потери, особенно при отражении атак новых советских танков Т-34 и КВ. Снаряды 37-мм противотанковых пушек их броню не пробивали и случаи, когда советские танки врывались на позиции немецких орудий, стали частым явлением. Несмотря на повсеместное использование в танковых и моторизованных соединениях Вермахта механической тяги, орудия, как правило, покинуть позиции не успевали и попадали под гусеницы советских боевых машин. В значительно более выгодном положении оказались самоходные установки Panzerjäger I. Танковое шасси позволяло им быстро выйти из-под обстрела, совершить маневр и вновь открыть огонь по советским танкам уже с новой позиции. Кроме того, в отличие от буксируемых артсистем, они могли сопровождать танки и в атаке, поддерживая их огнем в течение всего боя. Словом, выгоды были налицо, но 47-мм пушки, как, впрочем, и ненамного превосходившие их по бронепробиваемости немецкие 50-мм орудия PaK 38, могли поражать танки Т-34 на дистанции не свыше 500 м, а КВ — и того меньше. Аналогичные проблемы возникли у немцев в 1941 году и в Северной Африке, где их противотанковая артиллерия оказалась бессильной против английских танков «Матильда». Более мощной противотанковой пушки у немцев не было. 75-мм орудие PaK 40 разрабатывалось с 1938 года, но фирма Rheinmetall смогла выпустить первые 15 орудий лишь в феврале 1942 года. Пришлось немцам вновь обратить свой взор к трофеям.
В ходе летне-осенней кампании 1941 года немцы захватили значительное количество советских 76-мм пушек Ф-22. Часть из них Вермахт использовал в буксируемом варианте, а часть — для вооружения самоходно-артиллерийских установок. В качестве базы при создании САУ использовались шасси легких танков Pz.II и Pz.38 (t). В 1942 году на шасси этих танков, а также трофейного французского артиллерийского тягача Lorraine, начали устанавливать немецкие 75-мм противотанковые пушки PaK 40. Таким образом и образовалось семейство самоходных установок — истребителей танков Marder (куница). При этом, в Вермахте была принята классификация по базе: машины на шасси Pz.II получили название Marder II, а на шасси Pz.38 (t) — Marder III.