Как только основные силы германской действующей армии покинули Балканский полуостров и начали свой роковой путь в Россию, как здесь, словно грибы после дождя, стали возникать разного рода подпольные движения. Некоторые из них имели националистические тенденции, состояли из офицеров распущенных армий и возглавлялись лицами, признававшими находившиеся за границей эмигрантские правительства. В Сербии они группировались вокруг Д. Михайловича (с 1942 г. — генерал), который по поручению югославского короля Петра исполнял обязанности военного министра и заставлял своих собранных в сотни сторонников — четников — давать клятву не стричь волосы и не брить бороды, пока их отечество не станет свободным. В Греции возникли отряды ЭДЕС (Национально-республиканская греческая лига), возглавляемые генералом Н. Зервасом.
Наилучшим агитационным материалом против немцев располагали коммунисты. К патриотическим лозунгам они добавляли идею о народно-освободительной миссии СССР и о завоевании пролетариатом мирового господства. Ярко выраженные сословные различия, существовавшие на Балканах, явились чрезвычайно благоприятной почвой, а возникшие вскоре трудности с обеспечением населения продовольствием — в особенности это касалось Греции, морские пути которой были перерезаны, и она не могла сама себя прокормить — усилили ненависть к оккупантам. Начавшаяся тем временем война на Востоке развеяла у балканских народов последние сомнения относительно целей Гитлера и Муссолини.
Греческий ЭАМ (Национально-освободительный фронт Греции) сформировал народно-освободительную армию Греции (ЭЛАС) под командованием генерала Сарафиса, которая немедленно начала партизанскую войну.
Сразу же после 22 июня 1941 года руководство коммунистической партии Югославии, в котором еще с осени 1940 года имелось несколько советских военных представителей, приняло решение начать борьбу. Главный штаб народно-освободительных партизанских отрядов Югославии, созданный 27 июня, возглавил развернувшуюся теперь войну югославов против оставшихся здесь в небольшом количестве германских, итальянских и болгарских оккупационных дивизий и полицейских подразделений. Во главе движения встал И. Броз Тито — обученный в Москве партийный функционер (в 1917–1920 гг. участвовавший в Гражданской войне в России). Главной целью освободительной борьбы он объявил не только очищение от оккупантов всей территории Югославии, но и равноправие всех населяющих страну народов в границах единого югославского государства.
Начиная с июля 1941 года оккупационные войска повсеместно стали сталкиваться с партизанским движением, имевшим определенную мировоззренческую платформу и сложившиеся формы и традиции борьбы. Но не лицом к лицу. Звучали выстрелы из засад, ночами и в тумане под колесами автомашин и паровозов взрывались партизанские мины. Как могли оккупационные войска выполнить указание поддерживать спокойствие и порядок? Перед командующим германскими войсками в Салониках и подчиненными ему руководителями военной администрации в Белграде и в Афинах, как и перед соответствующими итальянскими командными инстанциями, стояли поистине невыполнимые задачи. Они должны были сохранить жизнь доверенных им солдат, а также жизнь и имущество гражданского населения. Но из-за огромной потребности в силах Восточного фронта все их просьбы об усилении оккупационных войск, как правило, оставались без ответа. Репрессии часто приводили к результатам обратным тому, что от них ожидалось. Карательные экспедиции повсюду наталкивались на невидимого противника, который умел исчезать ловко, словно хищный зверь.
За два года партизанская армия Тито выросла до 300 тысяч человек, другие партизанские отряды тоже достигли внушительной численности. Из многочисленных тайных укрытий к ним поступало оружие и боеприпасы, англо-американцы также поддерживали партизан, наладив их снабжение по воздуху.