По его собственным словам, интерес к музыке проснулся в нем лет в четырнадцать, благодаря пианисту по имени Харви Брукс, которого он услышал в Филадельфии, когда летом гостил на побережье у своих родственников в Эсбери-Парк. Брукс, бывший немногим старше Дюка, стал неплохим профессиональным музыкантом и получил некоторую известность в джазе, гастролируя с популярной исполнительницей блюзов Мэми Смит. Он записывал собственные пластинки и участвовал в сеансах с другими исполнителями. Среди этих работ есть даже запись одного выступления с Армстронгом. Эллингтон вспоминал: «[Брукс] свинговал. Его левая рука была грандиозна, и, пока я шел домой, я весь истомился по игре. До этого я никак не мог сдвинуться с места, но, услышав его, я сказал себе: „Парень, ты должен это сделать“. Я покрутился среди пианистов, но так и не освоил то, чему они учили».
Эллингтон начал поздно и нагонял с трудом. Вскоре после того, как он услышал поразившее его выступление Харви Брукса, Дюк подхватил простуду и просидел две недели дома. Все эти дни он бренчал на пианино, вспоминая то немногое, что получил от миссис Клинкскейлз. Он придумал пьеску, которую назвал «Soda Fountain Rag», так как подрабатывал газировщиком в кафе «Пудл Дог» на Джорджия-авеню. Кафе это, правда, больше походило на кабаре, чем на кафе-мороженое, и было одним из трех или четырех мест, где проводили время молодые негры из тех, что побогаче. Вскоре появилась еще одна композиция, под названием «What Do You Gonna Do When the Bed Breaks Down», и, имея в запасе две эти мелодии, Дюк стал играть на вечеринках для своих школьных приятелей. Обе пьесы чрезвычайно просты. Такие под силу любому подростку. «Меня приглашали очень часто, — вспоминал Дюк. — И я обнаружил, что, когда играешь на пианино, около инструмента всегда появляется хорошенькая девушка».
Позже, когда ему исполнилось лет пятнадцать, Дюк стал захаживать в «Бильярдную Фрэнка Холлидэя» на улице Т между Шестой и Седьмой улицами северо-восточной части города, рядом с известным негритянским театром «Хауард». Бильярдная притягивала любителей азартных игр, охотников повеселиться, а также местных пианистов. Среди последних многие были самоучками, хотя встречались и неплохо обученные музыканты. Эллингтон слушал, смотрел и задавал вопросы. Судя по всему, он был обаятельным молодым человеком, поскольку некоторые из этих людей, старшие по возрасту, лезли из кожи вон, чтобы помочь ему. Один из них, Оливер Перри, по прозвищу «Доктор» (он носил очки), отличался высокомерием и держался очень гордо, что производило впечатление. Дюк знал Перри по «Бильярдной Холлидэя», а кроме того, встречался с ним на танцевальных вечерах для старшеклассников, где Перри иногда играл. Эллингтон по собственной инициативе стал захаживать к нему в гости, Перри понемногу учил его и не только ничего не брал за уроки, но даже угощал своего подопечного. От Перри Дюк узнал способ различать аккорды в нотной записи. Это означало, что, даже не умея играть по нотам, можно было распознать мелодию и исполнить ее правой рукой, а левой подобрать сносный аккомпанемент. Конечно, услуга оказалась медвежьей, так как позволила Эллингтону кое-как приспособиться к инструменту и избавила его от необходимости учиться всерьез.
Второй человек, опекавший Дюка, Генри Грант, пользовался известностью в музыкальных кругах Вашингтона. Он вел уроки музыки в школе, где учился Дюк, а также руководил Афроамериканским фольклорным хором — одним из музыкальных коллективов, которые составляли неотъемлемую принадлежность культурной жизни негритянского среднего класса. Грант снабдил Дюка некоторыми сведениями из области гармонии.
Познания, полученные Эллингтоном от Перри, Гранта и некоторых других, были отрывочны и являлись скорее плодом указаний и рекомендаций, нежели систематического обучения. К этому можно добавить следующее. Во-первых, Эллингтон всю жизнь всячески избегал формального образования. Он не признавал самодисциплины и еще менее мирился с тем, чтобы кто-либо предписывал ему, что делать. Он при первой же возможности улизнул от занятий с миссис Клинкскейлз и никогда особенно не блистал в школе. А когда наконец увлекся музыкой, то вместо того, чтобы попросить родителей нанять учителя, как поступает большинство подростков, он устроил все сам, лишь бы не вступать в официальные отношения «учитель — ученик».
И позже, в зрелые годы, он с презрением отзывался о формальном обучении. Его друг Эдмунд Андерсон как-то предложил ему поступить в Музыкальный колледж Джульярда и освоить теорию, на что Эллингтон ответил: «Эдмунд, мне кажется, согласись я на это, я лишусь всего, что имею. Все погибнет». Однажды он обнаружил, что Джоя Шерилл, певица, выступавшая с ансамблем в 40-е годы, берет уроки вокала. «Он был вне себя. Он сказал: „Никаких уроков. Я запрещаю это делать. У тебя есть свой стиль. А эти уроки погубят то, что дано от природы“».