Номенклатура явилась «становым хребтом» партийно-советской государственности. Процесс создания номенклатуры был следующим. Еще в годы гражданской войны (в 1919г.) был образован Учраспред — специальный отдел ЦК, который в условиях острой нехватки кадров, способных проводить политику руководства и пригодных к тому или иному виду деятельности, занимался мобилизацией, постановкой на учет и переброской на «горячие» участки соответствующих кадров коммунистов. В результате в партийном аппарате сложился механизм назначений и перемещений в противовес принципу выборности кадров. Этот механизм все шире использовался как инструмент проведения партийной политики, особенно с того момента, когда партийный аппарат в качестве его генерального секретаря возглавил И.В. Сталин. Тем самым Сталин сосредоточил в своих руках, по выражению Ленина, «необъятную власть».
Сталин в то время не принадлежал к числу самых известных большевистских лидеров; вождем революции и гражданской войны его провозгласила позднейшая традиция. Троцкий называл Сталина «выдающейся посредственностью», что в общем-то верно, если сделать упор на слове «выдающаяся». По сравнению с другими большевистскими лидерами Сталин нигде ярко не проявил себя, хотя с 1912 г . входил в ЦК, а с 1919 г . — в Политбюро, занимал посты Наркома национальностей, Госконтроля, а позднее — РКИ (Рабоче-крестьянской инспекции). В раскладе политической борьбы Сталин чаще всего лавировал, выжидал, чья точка зрения будет решающей, кто окажется победителем. Везде, где бы он ни находился, Сталин как авторитарная личность тяготел к администрированию, к чисткам, к закулисным маневрам и интригам. Он, в отличие от многих других вождей, не чурался секретарской работы и ради нее был готов пожертвовать другими должностями и, безусловно, оказался в струе в связи с бюрократизацией партийного и советского аппарата. Однако было бы ошибкой думать, что руками Сталина в борьбе за власть был создан этот аппарат. Тут снова уместно сослаться на Троцкого, который считал, что не Сталин создал аппарат, а скорее аппарат создал Сталина.
Возглавив партийный аппарат, Сталин выступил в роли теоретика и создателя номенклатуры. На XII съезде РКП(б) в апреле 1923 г . Сталин говорил о необходимости введения коммунистов во все отрасли управления и весь промышленный комсостав, при помощи которого партия сможет держать в руках аппарат и осуществлять свое руководство. Одновременно им в своем типичном стиле выдвигались и требования к кадрам, занимающим руководящие посты, — это должны быть люди, умеющие осуществить директивы, могущие понять директивы, могущие принять эти директивы, как свои родные, и умеющие претворить их в жизнь.
Датой рождения номенклатуры можно считать возникшее в недрах партаппарата постановление ЦК РКП(б) от 8 ноября 1923 г ., в котором определялись задачи подбора, расстановки кадров на ответственные посты. Постановлением ЦК утверждались различные номенклатурные списки. В номенклатуру № 1 входило около 3500 наиболее важных постов, причем для утверждения 1590 из них (СНК, ЦИК СССР, ВЦИК, членов президиумов и коллегий наркоматов, руководства ВЦСПС и кооперативных органов) должны были создаваться специальные комиссии ЦК. Сюда включались начальники главков ВСНХ, руководители трестов, синдикатов, крупных промышленных предприятий. В номенклатуру № 2 входили, как правило, заместители начальников главков, управлений и другие должности. Номенклатура № 3 касалась руководящих кадров на местах. Общая потребность в руководящих кадрах, определенная аппаратом ЦК на начало 1924 г ., — 13 163 человека.
Для каждого уровня партийного руководства устанавливалась своя номенклатура. Так, Уралобком определил свою потребность в руководящих кадрах в 1066 человек. На уездном (районном), волостном уровне существовали свои номенклатуры, причем наиболее важные посты на периферии считались прерогативой ЦК. Более того, местные руководители всячески стремились к своему утверждению в центре, чтобы не зависеть от обстановки на местах и обеспечивать себе на этом уровне относительную самостоятельность действий. В таком виде институт номенклатуры становился дополнительным инструментом централизации и бюрократизации управления. С самого начала к выдвижению на номенклатурные должности были подключены органы ОГПУ с целью выявления лояльности кандидатов и их приверженности партийной линии.
На протяжении 1920-х гг. наблюдались две тенденции: во-первых, расширение списков номенклатурных должностей, во-вторых, расширение номенклатуры ЦК. Все это привело к тому, что в конце 1928 г . было постановлено пересматривать номенклатурные списки каждые три месяца.