Однако музыкальное образование (если не считать свидетельством его документ российского учебного заведения) Илья Слатин все-таки получил, и неплохое. В 1869 году он отправляется в Берлин, где два года штудирует музыкальную теорию у профессора Вюрста и совершенствует свою игру на фортепиано у Куллака. В то время музыкант постепенно приходит к мысли отказаться от карьеры пианиста в пользу работы дирижером. Закончить свое пребывание в Германии он решает довольно смелым концертом — программа его должна была полностью состоять из произведений русских композиторов, все еще плохо известных европейскому ценителю музыки. Идею горячо поддержал знакомый Слатина музыкальный критик Серов, с которым Илья Ильич познакомился в Вене в 1870 году. 9 марта 1871 года в Дрездене был организован симфонический концерт, в котором оркестр под управлением Ильи Ильича исполнил произведения Глинки, Даргомыжского, А. Рубинштейна. Концерт, как и сам дирижер, получила прекрасную прессу. Отныне в Европе имя Слатина стало известно в музыкальных кругах.
А вскоре Слатин вернулся в Петербург, но надолго там не задержался. В то время активно проводило свою культурно-просветительскую деятельность основанное в 1859 году братьями Рубинштейнами Русское музыкальное общество. Энергичный Илья Ильич с его идеями широкой пропаганды музыкального искусства, в первую очередь — русского, организации музыкального образования, оркестров и т. п. как нельзя лучше подходил на роль члена этой организации. Поэтому А. Рубинштейн отправляет Слатина в Харьков с исследованием перспективы открытия в этом городе отделения Русского музыкального общества.
Слатин нашел это возможным. Немалую роль сыграла поддержка, которую оказала идее княгиня Ольга Александровна Кропоткина, с помощью Ильи Слатина убедив в необходимости организации Харьковского филиала Общества крупных городских купцов и промышленников. Таким образом, открытие Харьковского отделения Русского музыкального общества состоялось всего через три месяца после дрезденского концерта — 31 мая 1871 года. Задачей общества было всемерное способствование развитию музыкальной культуры города, создание музыкального образовательного учреждения, объединение музыкальных сил Харькова в рамках больших концертов и т. д. и т. п.
Председателем Харьковского отделения стала княгиня Кропоткина, а одним из директоров (а также ответственным за музыкальную часть и на самом деле руководителем всей деятельности) был Илья Ильич. Вообще, среди членов Общества оказалось немало видных деятелей. В первую очередь их задачей было финансирование мероприятий. Действительные члены (их поначалу было двадцать человек) должны были вносить по 100 рублей в год, «члены-просветители» (137 человек) — по десять рублей в год. Слатин поселился в небольшом доме на улице Немецкой (ныне Пушкинской) и остался жить в Харькове навсегда.
1 октября 1871 года были открыты музыкальные классы, директором которых стал, конечно, Илья Ильич. Первоначально классы располагались в снятой квартире на Рыбной улице (сейчас улица Кооперативная) [89]
, через два года они переехали в более просторное помещение на верхнем этаже дома по улице Рымарской. Были открыты классы практически по всем специальностям инструментальной музыки, хорового и вокального пения. В основном для преподавания были привлечены местные педагогические силы, а для класса сольного пения по рекомендации Н. Рубинштейна из Петербурга прибыла известная артистка К. Прохорова-Маурели. Благодаря финансовой поддержке Летуновского, Залесской, Иванова и Рубинштейна (не знаменитого музыкального деятеля, а харьковского мецената), которые захотели иметь в заведении собственных стипендиатов, удалось открыть класс духовых инструментов. Кстати, историк Д. Багалей пишет, что класс деревянных духовых инструментов вообще был гордостью харьковских музыкальных классов. До этого в российские оркестры для игры на этих деревянных духовых приглашали, как правило, иностранцев.В первый год обучения через классы прошло 254 человека. Количество учеников было, конечно, ограничено финансовыми возможностями родителей. Не все соглашались на полный курс обучения, оставляя лишь самые необходимые предметы. Сам же Слатин как директор и одновременно заведующий фортепианным классом в первый год работал вообще бесплатно. Учителем он был суровым и требовательным, но одновременно — человеком мягким в повседневном общении.