Несмотря на первоначальные успехи в войне против СССР, вермахт уже в 1941 — начале 1942 г. понес весьма тяжелые потери, в том числе и в артиллерии. Поначалу их удавалось компенсировать — количество артиллерии РГК летом 1942 г. не отличалось от количества в начале войны. Но вот в качественном составе произошли определенные изменения. В составе артиллерии РГК появились моторизованные дивизионы 105-мм легких гаубиц — летом 1942 г. их было 15. В качестве средства тяги в этих дивизионах применялись гусеничные тягачи RSO. Эта машина, простая и дешевая в изготовлении, представляла собой типичный «эрзац» военного времени. Максимальная скорость буксировки гаубиц составляла всего 17 км/ч (против 40 км/ч для полугусеничных тягачей). Было сформировано и несколько новых батарей железнодорожной артиллерии, вооруженных, главным образом, французскими установками. Вообще же представляется непонятным упорство командования сухопутных войск в развитии железнодорожной артиллерии — подобные установки не находили применения в концепции «блицкрига». Они были пригодны разве что при осаде крепостей либо в системе береговой обороны. Но единственной крепостью, при осаде которой вплоть до конца 1943 г. применялась железнодорожная артиллерия, оставался Ленинград. Применение же таких установок в системе береговой обороны также нельзя признать особо эффективным — рассредоточенные вдоль побережья орудия без обеспечения превосходства в воздухе ни в одном случае не смогли противостоять высадке вражеских десантов.
1943 г. ознаменовался резким снижением численности артиллерии РГК ввиду гибели многих дивизионов в сталинградском «котле». В июле 1943 г. насчитывалось лишь 20 дивизионов 105-мм пушек, 12 смешанных дивизионов и 23 дивизиона 150-мм гаубиц. Сократилось и количество 150-мм пушек — за год с лета 1942-го по лето 1943 г. было расформированы семь из восьми дивизионов таких артсистем. В артиллерии РГК остался один дивизион и 15 отдельных батарей 150-мм пушек, но к декабрю 1943 г. были расформированы и последний дивизион, а также восемь отдельных батарей. Их матчасть, главным образом, была передана береговой артиллерии. Компенсировано сокращение 150-мм пушек было за счет увеличения количества 170-мм пушек. К концу 1943 г. было сформировано два новых дивизиона (763-й и 764-й) и восемь отдельных батарей таких пушек, а также две батареи и составе смешанного 2-го дивизиона 84-го артполка (две другие батареи этого дивизиона были вооружены чешскими 240-мм пушками). Если в январе 1941 г. вермахт располагал всего четырьмя 170-мм пушками, то к маю 1942 г. их было уже 114, и количество таких систем продолжало увеличиваться. Также в частях РГК возросло количество трофейных советских орудий. Например, в мае 1943 г. были сформированы три моторизованных дивизиона — 456-й, 457-й и 460-й — каждый из которых включал две батареи 152-мм гаубиц-пушек KH 433/1(r) и одну — 122-мм пушек К 390(r).
Существенно возросло количество дивизионов штурмовой артиллерии — летом 1942 г. их было 19, а год спустя — 25 (и три отдельные батареи). Возросла и их огневая мощь за счет увеличения количества орудий в батареях штурмовой артиллерии с семи до 10. Наряду с 75-мм орудиями StuG III штурмовая артиллерия начала получать 105-мм штурмовые гаубицы StuH 42 — они вводились по три единицы в каждую батарею.
В июне 1943 г. были сформированы и два отдельных самоходных артдивизиона — 753-й и 757-й, вооруженные 150-мм САУ Sd.Kfz.165 «Хуммель». Эти части были очень сильными — каждый дивизион имел шесть огневых батарей (четыре по 6 орудий и две по 4, а всего 32 САУ — что равнозначно почти трем дивизионам буксируемых гаубиц). Но в дальнейшем большинство «Хуммелей» поступало не в артиллерию РГК, а в панцерартиллерийские полки танковых дивизий.
Во второй половине 1943 г. в составе артиллерии РГК началось формирование крупных артиллерийских соединений. Первым из них стала созданная в сентябре