6.2.1941 назначен командиром Африканского корпуса, направленного на помощь разбитой в Северной Африке итальянской армии. Прибыв на фронт и определив, что английские войска слабы и их позиции неудачны, Р., не дожидаясь прибытия второй дивизии, перешел в наступление и в марте разбил 2-ю английскую бронетанковую дивизию, взял Бенгази и блокировал в Тобруке 9-ю австралийскую пехотную дивизию. Среди взятых в плен оказались генерал-лейтенанты Ф. Ним и Р. О’Коннор. 20.3.1941 получил дубовые листья к Рыцарскому кресту. 15–17 июня силами своих 15-й танковой и 5-й легкой дивизий нанес поражение пытавшимся атаковать его превосходящими силами англичанам. 1.7.1941 произведен в генералы танковых войск. 15.8.1941 под командованием Р. сформирована танковая группа «Африка», в которую вошли те же дивизии – лишь позже прибыла 164-я пехотная дивизия. Кроме того, в ее состав вошла формировавшаяся 90-я легкая дивизия. Также в подчинении Р. находилась итальянская группировка в составе танковой дивизии «Ариете», 2 моторизованные и 4 пехотные дивизии, правда, итальянские войска обладали крайне низким духом и использовались лишь на второстепенных участках. Одновременно Р. испытывал острую нехватку горючего и продовольствия из-за срыва флотом и авиацией союзников поставок на Средиземном море. 18.11.1941 8-я английская армия атаковала Р., имея более чем двукратное превосходство в танках. Р. атаки отбил, но был вынужден снять блокаду с Тобрука и отойти в Киренаику. 20.1.1942 Р. награжден Рыцарским крестом с дубовыми листьями и мечами. 21.1.1942 нанес не ожидавшим этого англичанам сокрушительный удар, вновь взял Бенгази и отбросил противника к линии Газала, где вынужден был прекратить наступление из-за отсутствия горючего и боеприпасов. 22.1.1942 группа Р. была переформирована в танковую армию «Африка», а сам Р. 30.1.1942 произведен в генерал-полковники. 26 мая Р., имея 333 германских и 228 итальянских танков, атаковал англичан, у которых танков было 900 и почти пятикратное превосходство в авиации. Ему удалось прорвать линию Газала и едва не уничтожить 8-ю армию, которую он преследовал до Тобрука. 21 июня Тобрук пал, в плен попало ок. 32 тыс. чел. Имея всего 44 исправных танка, Р. вторгся в Египет, но взять Александрию и Каир не смог, встретив хорошо организованное сопротивление англичан у Эль-Аламейна (60 км от Александрии). 5 июля англичане начали атаку позиций Р., он смог удержать их, но когда наступление прекратилось, у него практически закончились боеприпасы. В битве при Аллам-эль-Хальфа Р. уничтожил 67 танков противника, но сам потерял 49, и его последняя попытка прорвать эль-аламейнские позиции потерпела крах. 27 сент. Р. отбыл на лечение в Земмеринг (близ Вены), передав командование ген. Г. Штумме. 2 окт. английские войска начали наступление, а 24 окт. умер Штумме, и Р. пришлось срочно возвращаться в Африку. Англичане имели превосходство – 4:1 по живой силе, 5:1 в танках, 3:1 в орудиях, 4:1 в самолетах. Р. отбил все атаки, но его войска были полностью истощены. 3 нояб. он начал отступление. Однако в этот момент Гитлер потребовал не отступать ни на шаг, Р. подчинился и предпринял попытку контратаки, потеряв половину танков и X итальянский корпус, после чего возобновил отход. Выведя войска в Тунис, Р. настаивал на их эвакуации, но вместо этого Гитлер приказал перебросить в Африку 5-ю танковую армию ген. Ю. фон Арнима, которая вместе с 1-й германо-итальянской танковой армией составила под командованием Р. в февр. 1943 группу армий «Африка». В конце февр. Р. нанес поражение американским войскам на перевале Кассерин, но 6 марта потерпел серьезное поражение при Меденине, потеряв 50 танков. 9 марта Р. покинул Африку и уехал на лечение. 11.3.1943 награжден Рыцарским крестом с дубовыми листьями, мечами и бриллиантами.
Эрвин Роммель на церемонии награждения его Рыцарским крестом с дубовыми листьями и мечами