В июле 1919 г. вместе со своим подразделением Добровольческого корпуса примкнул к 7-й баварской дивизии. Там ему доверили приемку вооружений, которые западные союзники попытались спрятать. Затем он стал служить в военной разведке, благодаря чему ему удалось установить важные связи с праворадикальными организациями. Вскоре Рем стал одним из основателей тайной организации «Железный кулак», целью которой было объединение различных полувоенных формирований.
Именно тогда он познакомился с Адольфом Гитлером, который в это время был доверенным лицом рейхсвера. Он признавал его ораторский талант и способствовал его приему в организацию «Железный кулак». Вскоре Гитлер вступил в Немецкую рабочую партию (ДАП) и сообщил об этом Рему, который стал посещать собрания партии. Под впечатлением выступлений тогдашнего председателя ДАП Дрекслера Рем стал членом этой ячейки.
Гитлеру удалось при помощи Рема завязать отношения с баварскими политиками и военными, и Рему удалось склонить некоторых из них к вступлению в национал-социалистическую партию.
В начале 1920-х гг. и в особенности в кризисном 1929 г. значение Рема для НСДАП стало очевидным. Хотя баварское правительство с нескрываемой сдержанностью относилось к Веймарской республике, поведение праворадикальных группировок оно воспринимало не без скептицизма. Правительство понимало, что эти группировки не разделяли его ультраконсервативные взгляды. Хотя оно пыталось направить в нужное ему русло их антиреспубликанские стремления, тем не менее, оно ограничивало их деятельность.
В этом контексте следует понять важную роль Рема для Гитлера, которого он познакомил с ведущими баварским политиками и военными. К примеру, обратившись к командующему баварским рейхсвером фон Лоссову, вместе с фон Эппом Рем добился того, что в январе 1923 г. Гитлер беспрепятственно промаршировал вместе с 5000 своих полувоенных сторонников для участия в первом съезде НСДАП.
В начале и летом этого года Рем был посредником между рейхсвером и НСДАП. Он заботился о вооружении и строевой подготовке частей на армейских плацах, снабжал национал-социалистических активистов оружием и боеприпасами с основанных им тайных складов. При этом его — отчасти активно, отчасти пассивно — несмотря на указания из Берлина, поддерживал фон Лоссов. Однако помощь со стороны баварских военных была отнюдь не бескорыстной. Мнимое великодушие военных объяснялось их стремлением активизировать полувоенные формирования и привлечь их к служению консервативному баварскому партикуляризму. Однако эти их планы не увязывались с намерениями Гитлера, который рассчитывал на военную поддержку своей национальной революции.
Трения, возникшие между НСДАП и военными, имевшими совершенно разные цели, поставили в сложное положение Рема, который был связан с обеими сторонами. Пытаясь разрешить эту дилемму, Рем уволился из армии. Таким образом, из офицера баварской королевской армии он превратился в полувоенного авантюриста. Уже начиная с 1921 г. он стал работать на СА и в течение года организовал «Союз бойцов», организацию прикрытия СА, «Нагорный союз» и «Имперское знамя», которые стремились к революционному изменению государственного строя. 9 сентября он был назначен командующим «Имперским знаменем», которое стало отныне называться «Имперским боевым знаменем». Хотя эти группировки клятвенно заверяли Гитлера в своей преданности и хотя они надеялись, что Гитлер станет играть роль немецкого Муссолини, тот скооперировал их таким образом, чтобы спрятать в тень политическое крыло национал-социалистического движения с помощью вооруженных союзников. Гитлер решил было, что СА станет полутеррористической организацией, которая будет однозначно подчинена партии. Но теперь он видел себя в роли талантливого пропагандиста, призывающего к созданию широко разветвленной полувоенной организации прикрытия.
События 9 ноября 1923 г. привели к коренным переменам. Неудавшийся путч явился для Гитлера тяжелым, хотя и терпимым ударом по национал-социалистическому движению. Однако отныне Гитлер и его партия стали однозначно играть ведущую роль, в то время как полувоенные соратники отошли на задний план. Их значение стало ограниченным, поскольку Гитлер отказался от идеи захвата власти насильственным путем и стал придерживаться тактики «легальной революции».
После путча Рем провел пять месяцев в камере предварительного заключения, но 1 апреля 1924 г. был освобожден. Он стал депутатом рейхстага от национал-социалистического профсоюза, но, по его собственным словам, не добился особого успеха. Гораздо более существенным оказалось то, что он получил от Гитлера разрешение заново сформировать и возглавить части СА[27]. Для того, чтобы обойти правительственный запрет национал-социалистических организаций, Рем основал «Военно-спортивный союз», «Фронтбанн», который представлял собой нечто среднее между партийным войском, которое было нужно Гитлеру, и обычными полувоенными формированиями. Несмотря на трения с властями[28], Рему удалось создать части численностью около 30 000 человек.