К учебе Ларри был равнодушен до тех пор, пока не попал в хоровую школу Всех Святых в центре Лондона. Это необычное заведение, где обучалось всего 14 учеников, стало доступно Лоренсу только благодаря связям его отца. Повседневная жизнь школы была пронизана зрелищностью: великолепные одежды, пышные торжественные службы, удивительный церковный хор, театрализованные спектакли, походы в профессиональный театр и «на пантомимы». Несомненно, все это имело огромное воздействие на Лоренса, в том числе и на его становление как актера. Обучаясь в этой самой маленькой из всех существующих хоровых школ, Лоренс Оливье стал страстным поклонником театра. Один из его соучеников, впоследствии знаменитый актер Лоренс Нейсмит, говорил об Оливье: «Да еще мальчишкой он был законченным актером. И умел себя держать. Он не казался мне симпатичным, скорее задирой. В нем была властность, с которой я то и дело сталкивался на протяжении всей жизни».
В 1920 г. в жизни Лоренса произошла трагедия, положившая, по его словам, конец «детскому раю». Его горячо любимая мать, как никто понимавшая его, умерла от опухоли мозга в возрасте 48 лет. И даже спустя 45 лет после этого Оливье скажет: «Мне кажется, что я так и не оправился после этого. Теперь мной должен был заниматься отец, с которым меня не связывала особенная близость». Отец же, проча сыну духовную карьеру, перевел 14-летнего Лоренса в публичную школу Св. Эдварда в Оксфорде, где тот провел три года. Именно там подросток впервые по-настоящему проявил свой актерский талант. В спектакле «Укрощение строптивой», показанном на фестивале в честь дня рождения Шекспира, Ларри настолько блистательно исполнил роль Кэт, что об этом даже написали в газетах: «Мальчик, игравший Катарину, показал остроумную, бойкую черноглазую девчонку, остро нуждающуюся в укрощении; не помню ни одной актрисы, которая лучше смотрелась бы в этой роли». Но артистический талант Лоренса нисколько не добавил ему авторитета среди учеников школы, которые прежде всего ценили спортивные достижения. Не особенно сильный в спорте, Оливье чувствовал себя среди сверстников чужим, никому не нужным и был уверен, что окружающие его не любили. Однако неожиданно для Лоренса равнодушный и такой чужой ему отец на его просьбу отпустить вслед за братом в Индию ответил: «Не дури, ты пойдешь на сцену». И Оливье, сдав на «отлично» экзамены, поступил в Центральную школу ораторского и драматического искусства. Оливье снял дешевую мансарду в Паддингтоне и экономил на всем, включая еду. Он очень много занимался декламацией, историей драмы и костюма, мимикой, фехтованием, искусством грима и вскоре стал наиболее преуспевающим учеником, получив кубок Милуорда как самый лучший студент.
Впервые на лондонскую сцену Лоренс Оливье вышел в 1924 г., выступив в минутной роли в спектакле по драме А. Лоу «Байрон». Долгое время Лоренс изображал на сцене почти бессловесных слуг, пока не оказался в Бермингемском репертуарном театре. Уже к двадцати годам он переиграл там множество самых разнообразных ролей: Джека Бартвика в «Серебряной коробочке», Тони Лампкина в «Ночи ошибок», чеховского дядю Ваню, Пароля в комедии Шекспира «Конец — делу венец». Первой наиболее значительной ролью Лоренса Оливье стала главная роль в драме Теннисона «Гарольд». После премьеры газеты писали о молодом одаренном актере: «Его хорошая игра в «Макбете», а теперь и в «Гарольде» убеждает в том, что когда романтическая и поэтическая драма вновь займут в театре подобающее им место, Оливье не замедлит проявить себя как выдающийся романтический артист». К этому моменту Оливье очень изменился, превратившись из мрачноватого, вечно насупленного парня в плохо сидящем костюме в «очаровательного молодого человека». Один из современников вспоминал: «Ему наконец удалось сделать прическу с пробором; он залечил щели между зубами, подстриг и выпрямил брови, был красиво и нарядно одет. Никак не изменился только нос, но Оливье компенсировал это тем, что придавал ему новую форму почти в каждой роли на протяжении двадцати пяти лет».