Первые композиторские опыты Веберна относятся к рубежу XIX–XX веков. Сначала он увлекся Вагнером (большое впечатление произвело посещение Байрейта в 1902 году), затем Брамсом, позже — Малером; последнее увлечение — Шёнберг. В первых произведениях, еще, правда, не вполне самостоятельных, заложены зерна его дальнейших исканий: это оркестровая Пассакалия, основанная на вариационном принципе, который так широко использовал позже Веберн, и сравнительно краткая пьеса для смешанного хора, написанная в строгой канонической форме — в той полифонической манере, которую в дальнейшем композитор будет все более Совершенствовать. Оба сочинения написаны в 1908 году. Однако далеко до завершения этих произведений он стал одним из учеников Арнольда Шёнберга, с которым его познакомил Эгон Веллес — композитор и ученый, позже снискавший большую известность как крупнейший знаток византийской музыки. Он вспоминал, как «…в октябре 1904 года мы начали встречаться и играли вместе на рояле Третью симфонию Малера, которая должна была исполняться в том сезоне. Мы вместе посещали все репетиции, на которых Малер дирижировал этой симфонией, а в последующие годы — репетиции Пятой и Шестой симфоний На семинарах профессора Адлера мы играли на рояле последние квартеты Бетховена и анализировали их».
Постепенно круг шёнберговских учеников расширялся (Веберн вовлек в него Берга). С 1906 года они поддерживали с учителем почти ежедневную связь. Веллес свидетельствует, что в годы, когда Шёнберг вступил на путь атонализма (то есть с 1908 года) и когда стоял на пороге открытия додекафонного метода композиции (завершение этих исканий приходится на 1921 год), он часто советовался с Веберном по волновавшим его вопросам. Учебные занятия с Шёнбергом прекратились в 1908 году, наступила новая фаза отношений — творческое общение, тесная дружба.
С 1906 года дирижирование — по крайней мере на ближайшее двадцатилетие — становится основным источником доходов Веберна. Места службы: преимущественно театры драматические и оперные. Города: Прага, Данциг, Штеттин. В 1909 году Веберн пишет Пять пьес для струнного квартета, затем через год Шесть пьес для оркестра, с которых начинается первый период его творчества — это период так называемой свободной атональности. Музыка отличается максимальной афористичностью высказываний. Еще одна характерная черта — преобладание инструментальной музыки. Начинается Первая мировая война. В 1915 году Веберн был мобилизован, но в следующем году освобожден из-за плохого зрения. Он возвращается к музыке и в 1917 году пишет новое сочинение — Четыре песни для голоса и фортепиано. Это произведение словно подводит черту под начальным периодом творчества Веберна.
В последующее десятилетие он, под большим влиянием «Лунного Пьеро» Шёнберга, пишет вокальные циклы с разнообразным камерно-инструментальным сопровождением. Произведения также весьма кратки: все двадцать пять пьес сольных циклов звучат немногим более двадцати минут. Но музыка Веберна предстает теперь еще более строгой и вместе с тем драматичной. Его уже тогда отличает трепетное отношение к звуку. Чувство отдельно взятого звука, его интенсивности ни у кого из композиторов не только прошлых времен, но и современности не было столь развито, как у Веберна. Звук для него — в своем конкретном высотном, тембровом звучании — нечто живое, одушевленное. Отсюда у Веберна и то, что называется «пуантилизмом», — пунктирное звучание, в котором тонкой вязью интервальных соотношений, связанные друг с другом тона возникают изолированно, будто рожденные в вакууме. В 1920 году Веберну, наконец, удается заключить первые контракты на издание своих сочинений — с венским Универсальным издательством. Это издательство и в позднейшие, трудные времена оказывало ему посильную помощь. После войны оживление дирижерской деятельности наступает в связи с созданием в Вене по инициативе и под руководством Шёнберга Общества закрытых (частных) исполнений (просуществовало с 1918 по 1922 год). С 1921 года Веберн руководит любительскими хорами. Он сближается с рабочими оркестровыми и певческими коллективами, проводит с ними большую работу: они исполняют Девятую симфонию Бетховена и особенно запомнившуюся венцам Восьмую Малера — «симфонии тысячи участников». Веберн был связан с рабочими музыкальными организациями до 1934 года, когда они были разгромлены реакционным правительством Австрии. В 1924 году, а затем и в 1932 году Веберну была присуждена музыкальная премия города Вены. В этом же году он сочиняет свой новый опус — Три народных текста для голоса и инструментального ансамбля. Это одна из вершин композитора. Так считал, — например, композитор Игорь Стравинский. В недрах данного периода уже вызревает додекафонная техника.
В 1927 году Веберн становится дирижером Венского радио. Его приглашает на гастроли и лондонский радиооркестр Би-би-си. С 1929 по 1935 год он выезжал в Англию пять раз.