Основана в 1919 году под названием Социалистистическая рабочая партия коммунистов (Коммунистической партией Югославии стала называться с 1920 года). На выборах 1920 года в Учредительную скупщину Королевства сербов, хорватов и словенцев заняла третье место, после чего ее деятельность была приостановлена, а затем запрещена (август 1921 года) и продолжалась в подполье. После этого КПЮ стала типичной партией, подчинявшейся Коминтерну, а ее численность сократилась со 120 тысяч членов в 1920 году примерно до тысячи в 1939 году.
Во время Второй мировой войны коммунисты во главе с назначенным в 1937 году генеральным секретарем Иосипом Броз Тито (утвержден в должности на партийной кнференции в октябре 1940 года) стали реальной альтернативой довоенным верхам, скомпрометированным коллаборационизмом. Тито сумел не только построить партизанскую армию (свыше 300 тысяч человек), но и заручиться поддержкой всех союзных держав, а в 1944 году его даже признало королевское правительство в изгнании. Когда Тито контролировал уже всю территорию Югославии, он быстро отказался от тактики построения широкой коалиции «прогрессивных сил» и начал коммунистическую революцию, опиравшуюся на террор и пропаганду. Вариант сталинизма по Тито через некоторое время стал привлекательным для многих хорватов и македонцев, так как помимо социальных обещаний включал федералистские лозунги. Фактором, объединяющим народы Югославии, должна была стать КПЮ.
В июне 1948 года Сталин осудил руководство КПЮ за излишнюю самодеятельность в строительстве социализма и желание играть ведущую роль в рабочем движении. Тито пошел на конфронтацию. Однако, справившись с *коминформовцами
в рядах КПЮ, он должен был обосновать свой особый путь к социализму, если и дальше хотел строить свою деятельность на идеологии. Таково было происхождение югославского самоуправленческого социализма (*самоуправления), главным идеологом которого был Эдвард Кардель. Его лозунги, в частности о борьбе с бюрократией, о передаче государственных предприятий в управление работникам, нередко устанавливали направления, противоречившие политике компартии (переименованной в 1952 году в Союз коммунистов Югославии), но обосновывали югославскую самобытность. Экономический кризис начала 1960‐х, попытки его преодолеть через введение элементов рынка в самоуправленческий социализм, а также то, что в партии набирало голос послевоенное поколение, привели к увеличению национальной напряженности внутри партии. Словенские и хорватские коммунисты подвергали сомнению тогдашнюю политику партии как централистскую, удобную Сербии и ущемляющую интересы их республик. Тито поддержал эту точку зрения и после исключения из партии лидера сербских коммунистов и фактического начальника *Управления государственной безопасности Александра Ранковича (1966) осуществил широкую федерализацию СКЮ (1969). Это направление было еще более усилено после усмирения излишне, по мнению Тито, реформаторских руководителей хорватской (*«хорватская весна»), сербской (*«сербский либерализм») и в меньшей степени словенской партии в начале 1970‐х. В конце концов, особенно после смерти Тито (1980), СКЮ все меньше интегрировал власть и общество Югославии и все больше становился лишь дефектным механизмом координации деятельности республиканских коммунистических верхов. Когда в конце 1980‐х повысился градус национальных устремлений и давление в направлении демократизации, СКЮ оказался пассивным инструментом борющихся республиканских верхушек и в январе 1990 года распался, предвещая распад Югославии.