Министром воссозданного Министерства обороны СССР становится маршал Советского Союза Николай Александрович Булганин, а его первым заместителем — маршал Советского Союза Георгий Константинович Жуков, который вскоре станет руководить и непосредственно участвовать в совершенно секретной операции по аресту и изоляции главного конкурента в борьбе за пост главы государства Лаврентия Берия и его команды. В феврале 1955 года Георгий Жуков занимает пост министра обороны. Бесспорно, однако, что Жуков, будучи в то время в фаворе у армии, даже в бытность первым заместителем фактически заправлял всеми делами в Министерстве обороны и Генштабе.
Именно в то время в Генеральном штабе советской армии наконец-то начала обретать реальные черты долго вынашиваемая идея создания при разведывательных отделах и разведывательных управлениях на флотах, в военных округах и в группах войск совершенно секретных отдельных специальных разведывательно-диверсионных формирований, которые в случае военного или предвоенного кризиса вели бы разведку и уничтожали заранее намеченные важные объекты в тылу противника. Время рождения новых советских спецформирований пришлось на жесткую фазу холодной войны и им сразу же нашлось место в разрабатываемых операциях по подготовке к уже, можно сказать, «весьма горячей» третьей мировой войне. Первоначально на созданные подразделения возлагалась задача, еще до начала времени «Ч» (часа «Х» — «икс»), скрытно проникать в тыл врага и действовать там по заранее разработанным планам, то есть вести разведку, а также уничтожать крупные штабы и командные пункты, аэродромы, склады боеприпасов и горючего, железнодорожные узлы, электростанции, плотины, важные мосты, линии связи и так далее. Немного позже они были сориентированы также на борьбу с носителями ядерного оружия и средствами противовоздушной и противоракетной обороны противника.
В сухопутных войсках все началось с небольших формирований — отдельных рот специального назначения. К 1953 году таких рот, разбросанных в основном в приграничных военных округах, насчитывалось чуть более сорока по 112 человек в каждой. В целях конспирации эти роты ЛЕГЕНДИРОВАЛИСЬ, и их личный состав носил униформу связистов, авиации или инженерных войск. Затем последовал ряд реорганизаций, и многие роты были расформированы. В конце 50-х годов некоторые оставшиеся роты начали укрупнять, появились отдельные батальоны спецназа. Директивой Генштаба от 27 марта 1962 года были разработаны проекты организации бригад спецназа на мирное и военное время. 1 января 1963 года в небольшом поселке городского типа Чучково рязанской области была сформирована первая полноценная отдельная бригада специального назначения (16-я ОБРСПН). Всего к началу 1964 года силы советского армейского спецназа состояли из 12 отдельных рот, 5 отдельных батальонов и 10 кадрированных (где часть подразделений развернута по штату мирного времени, и лишь в угрожаемый период они доукомплектовываются приписным личным составом) бригад. Многие спецназовцы, для приДания им шика в показных мероприятиях генералитету, были переодеты в форму воздушно-десантных войск (ВДВ). Лишь некоторые части, дислоцированные в основном в странах варшавского договора (в который в 1955–1991 годах входили Болгария, Венгрия, Румыния, ГДР, Польша, СССР, Чехословакия, а также до 1962 года — Албания), остались в легендированной форме одежды.
В 1967 году для подготовки молодых офицеров, предназначенных для специальных подразделений сухопутных войск, в рязанском высшем военном командном училище воздушно-десантных войск был создан факультет специального назначения. Личный состав образованного факультета свели в новую девятую роту. К этому времени в составе военных округов Вооруженных сил ускоренно формировались боеспособные бригады спецназа, но училищ, готовивших для них более или менее квалифицированные кадры, все еще не было. Каждый взвод девятой роты являлся курсом и состоял из четырех отделений, курсанты которых изучали определенный иностранный язык: английский, немецкий, французский или китайский. Выпускники факультета подразделений спецназа получали диплом референта-переводчика. Программа обучения будущих офицеров спецназа несколько отличалась от программы обучения на обычном воздушно-десантном факультете. В частности, если практические навыки курсантов общего факультета ВДВ по минно-подрывному делу ограничивались умением пользоваться простой зажигательной трубкой (капсюль-детонатором с огнепроводным шнуром) и подрывом тротиловой шашки, то курсант девятой роты теоретически должен был уметь изготовить взрывчатое вещество из подручных материалов. Некоторые занятия по тактике также имели свои особенности. С началом войны в Афганистане на первый курс было набрано два взвода курсантов, а в программу обучения введен еще один иностранный язык — фарси.