Следующая модификация танка Pz.III — J — находилась в серийном производстве с марта 1941 по июль 1942 года.
Лобовой броневой лист корпуса довели до 50 мм. В связи с этим в лобовом листе были смонтированы шаровая установка Kugelblende 50 для пулемёта MG 34 (аналогичная используемой на танках Pz.IV Ausf.F) и смотровой прибор механика-водителя Fahrersehklappe 50 с бинокулярным перископом KFF 2. Броневая защита башни и бортов корпуса осталась прежней — 30 мм, щита маск-установки пушки — 20 мм.
Изменилась конструкция буксирных крюков, двухстворчатые крышки люков доступа к агрегатам трансмиссии заменили на одностворчатые (на танках поздних выпусков так же поступили с люками доступа к двигателю), воздушные фильтры перенесли с моторной перегородки на карбюраторы. Внесли и много других, более мелких усовершенствований.
Самым же важным нововведением стала установка новой пушки. Первые 1549 танков Ausf.J ещё были вооружены 50-мм пушкой KwK 38 с длиной ствола в 42 калибра. С января 1942 года в танки начали устанавливать 50-мм пушку KwK 39 с длиной ствола в 60 калибров, обладавшую большей бронепробиваемостью. Такие орудия получили 1067 танков Ausf.J.
Замена пушки стала насущной необходимостью после первых же сражений на Восточном фронте. Здесь выяснилось, что Pz.III, предназначавшийся по замыслу именно для борьбы с танками противника, мог пробить броню советского тяжёлого танка КВ только с дистанции 200 м. При этом наши машины легко поражали «тройки» с дистанции 500 м. Новая пушка позволила хотя бы частично уравнять шансы и увеличить дальность эффективного огневого боя с советскими танками до 500 м.
Появление следующего нарианта Pz.III связано с попыткой установки на Ausf.J башни танка Pz.IV Ausf.G с длинноствольной 75-мм пушкой. Однако башня от «четвёрки» на «тройке» не прижилась, поэтому последовала санкция выпускать новую серию танков с прежним вооружением.
С июня по декабрь 1942 года было изготовлено 653 (по другим данным — 703) танка модификации L.
Танки получили модернизированную маск-установку, одновременно выполнявшую функцию противовеса 50-мм пушки. Лобовую броню вновь усилили 20-мм плитой, имевшей вырезы под приборы наблюдения механика-водителя и курсовой пулемёт. Были ликвидированы смотровой лючок заряжающего в бронировке пушки и смотровые щели в бортах башни. Масса танка возросла до 22,7 т. Машины, предназначавшиеся для Африканского корпуса, получили более мощную систему охлаждения двигателя. Кроме того, воздух для него поступал из боевого отделения через усиленные воздушные фильтры. Также было сокращено число люков в надмоторной крыше.
Одну машину Ausf.L в опытном порядке вооружили 50-мм противотанковой пушкой PaK 38.
Последняя модификация Pz.III, вооружённая 50-мм пушкой. Первоначальный заказ составлял 1000 единиц, но невысокая эффективность 50-мм пушек в борьбе с советскими танками заставила Службу вооружения сухопутных войск сократить заказ до 250 машин. Ещё 165 уже готовых шасси были переоборудованы в штурмовые орудия StuG III, а ещё 100 — в огнемётные танки Pz.III (Fl). Часть машин изготовили уже в версии N, то есть вооружёнными 75-мм пушкой.