Именно в те годы Армстронг познакомился с человеком, сыгравшим столь большую роль в его жизни, что эта встреча может считаться важным событием и в истории джаза. В 1916 году, после того как Фредди Кеппард уехал из Нового Орлеана, а «Бадди» Пти окончательно спился, титул новоорлеанского короля корнета перешел к Джо Оливеру. Согласно данным его основного биографа Уолтера К. Аллена, Оливер родился в 1885 году. Аллену эту дату назвала жена Оливера Стелла. Однако есть основания полагать, что хронология биографии Джо Оливера, как и хронология многих других пионеров джаза, страдает неточностью и, скорее всего, он родился несколько раньше. В опубликованном в 1938 году некрологе сказано, что Оливер скончался в возрасте шестидесяти четырех лет, а это означает, что датой его рождения следует считать 1874 год. В то же время выступавший вместе с Оливером ударник Фредди Мур утверждает, что в 1931 году Джо был пятьдесят один год. По-видимому, он появился на свет не в самом Новом Орлеане, а в его окрестностях, на ферме или на плантации. По словам Стеллы, Джо был уже юношей, когда приехал в Новый Орлеан, где жил и работал в еврейской семье на Мэгэзин-стрит. Сначала Оливер играл на тромбоне, потом перешел на корнет. Еще подростком он время от времени выступал с различными молодежными ансамблями. В детстве по неизвестным нам причинам он перестал видеть одним глазом. Становление Оливера как музыканта шло довольно медленно. Он признавался тромбонисту Престону Джексону, что ему потребовалось десять лет, чтобы выработать хорошее звучание. Но около 1910 года Джо «Кинг» Оливер уже постоянно играл в первых в истории джаз-бэндах и в уличных оркестрах.
Как и большинству других негритянских музыкантов, игра на корнете не давала Оливеру достаточно средств к существованию, и он был вынужден работать вначале посыльным, а позднее привратником в семьях белых новоорлеанцев. Благодаря такой работе он жил в респектабельном районе города. Вообще следует иметь в виду, что большинство первых джазменов вовсе не были выходцами из трущоб, и Армстронг представлял скорее исключение, чем правило. Они не считали себя обиженными судьбой, выброшенными на задворки общества людьми. Никто из них не чувствовал себя непризнанным гением. Это были уважаемые граждане, честным трудом зарабатывавшие свой хлеб. К этой категории музыкантов относился и Оливер. Он почти не пил спиртных напитков, любил проводить время дома с женой и приемной дочерью. Правда, он был чревоугодником. Как рассказывал «Попс» Фостер, Оливер мог за один присест съесть шесть булочек с рубленым бифштексом и выпить литр молока. Работавший с ним тромбонист Клайд Бернхардт вспоминает: «Это был самый невероятный обжора, каких только я когда-либо видел… „Кинг“ Оливер мог один съесть жареную курицу, вернее, два — два с половиной килограмма жареной курятины. Однажды я видел собственными глазами, как он проглотил целый яблочный пирог… А кофе пил прямо из кастрюли, вмещавшей около десяти нормальных чашек» .
Джо Оливер был властолюбивым человеком, прирожденным лидером. Огромного роста, тучный, он отличался вспыльчивостью, а иногда бывал и просто груб. Он предъявлял высокие требования к музыкантам своего оркестра и всегда добивался того, чтобы они играли именно так, как он считал нужным. Рассказывают, что когда Оливер хотел закончить пьесу, то стучал ногой о пол эстрады. Однажды коллеги Джо игнорировали этот сигнал, оправдываясь тем, что они его не слышали. На следующее выступление Оливер принес кирпич и в нужный момент швырнул его на сцену. На этот раз музыканты сочли за благо расслышать сигнал и не артачиться.
«Кинг» Оливер был весьма прижимистым человеком и всегда старался платить своим оркестрантам как можно меньше. Позднее скупость помешала ему удерживать в оркестре хороших исполнителей. К тому же он был еще и подозрительным и, отказываясь иметь дело с менеджерами, вел свои дела обычно сам. Пока деятельность Оливера ограничивалась Новым Орлеаном и его окрестностями, все шло более или менее благополучно, но, когда он попал в хищный мир индустрии развлечений, дилетантство в деловых вопросах обошлось ему дорого. Одним словом, Оливер был жестким, практичным и требовательным человеком. В то же время к началу первой мировой войны он уже считался лучшим корнетистом Нового Орлеана.
В годы ученичества Армстронга, проходившего в новоорлеанских хонки-тонкс, Джо Оливер стал для него настоящим опекуном, а в какой-то мере и учителем. Грубый, подозрительный, он не очень-то подходил на роль опекуна вообще для кого бы то ни было, а уж тем более для потенциального конкурента. И все-таки он раз за разом помогает Армстронгу в его карьере, дает ему приличный инструмент, учит правильной технике игры, устраивает в хорошие оркестры и в конечном счете привозит в Чикаго, открывая тем самым перед ним широкое поле деятельности.