Когда М. М. Иванов начал сочинять музыку и издавать ноты, обнаружился его «двойник», тоже композитор М. М. Иванов. Надо сказать, что этот д бездарный музыкант был постоянным музыкальным обозревателем газеты «Новое время» и часто неодобрительно и пренебрежительно отзывался а творчестве его педагога Римского-Корсакова. Тогда решено было присоединить к фамилии Иванов фамилию сестры и ее мужа — Ипполитовых, которые помогли ему стать музыкантом. Так появился композитор М. М. Ипполитов-Иванов.
В консерватории он познакомился с вокалисткой Варварой Зарудной. Поначалу отношения будущего композитора и певицы были чисто дружескими и профессиональными. Нередко на музыкальных вечерах у Римского-Корсакова Ипполитов-Иванов слушал в исполнении Варвары Зарудной фрагменты новых опер Римского-Корсакова, Бородина, Кюи. Симпатия молодых людей крепла, но, что называется, не переходила за рамки. Однако не зря говорят, что разлука для любви как ветер для огня: слабый огонь погасит, а сильный — только раздует. Расставшись летом 1881 года на каникулы, студенты вступают в активную переписку, и зародившаяся симпатия перерастает в глубокое чувство, которое им было суждено пронести, через всю жизнь. Молодые люди закончили консерваторию в 1882 году: он — по классу композиции Римского-Корсакова, а она — по классу вокала Камилло Эверарди, А в 1883 году Михаил Михайлович и Варвара Михайловна обвенчались.
Варвара Михайловна была представительницей известного рода Зарудных, давшего России немало талантливых и знаменитых людей. Окончила Харьковскую гимназию, затем местное музыкальное училище РМО, где обучалась пению в классе К. Прохоровой-Маурелли, с 1879-го училась в Петербургской консерватории, которую закончила с серебряной медалью. В годы учебы принимала участие в музыкальных вечерах, проходивших в домах А. Бородина, В. Стасова, Н. Римского-Корсакова, М. Балакирева, Ц. Кюи. Здесь ею были исполнены по рукописям отрывки из партий Снегурочки, Ганны («Майская ночь»), Ярославны («Князь Игорь»). Надо сказать, что А. Бородин написал эту партию в расчете на голосовые возможности певицы. После окончания консерватории в 1882 году, дебютировала в Киеве (в антрепризе И. Сетова), затем выступала в Харькове, Тифлисе. Она обладала гибким голосом мягкого, теплого тембра, музыкальностью, сценическим мастерством. С одинаковым успехом исполняла лирические, драматические и колоратурные партии.
После окончания Петербургской консерватории они отправились в Тифлис для организации Тифлисского отделения Русского музыкального общества. Молодой выпускник сразу получил место директора Музыкального училища в Тифлисе и дирижера симфонических собраний тифлисского отделения Императорского Русского Музыкального Общества (ИРМО). Музыкальная культура Грузии во второй половине XIX века переживала период возрождения. Несмотря на некоторое оживление музыкальной жизни, уровень развития профессиональной музыки в Грузии в середине века не был высок. В 1860 году в Тбилиси, а позднее и в Кутаиси был создан «Комитет восстановления церковного пения», ставящий целью запись и переработку грузинских псалмов. После присоединения Грузии к России (1-я пол. XIX века) устанавливаются постоянные связи с русской и западноевропейской музыкальными культурами. В Тбилиси были созданы: оперный театр (1851), в котором выступали итальянская и русская (с 1880) оперные труппы, музыкальная школа Кавказского музыкального общества (1871); музыкальные классы под руководством Х. И. Саванели и А. И. Мизандари и Тифлисское отделение РМО (1883) во главе с М. М. Ипполитовым-Ивановым. Возникает интерес общественности к национальной культуре. Начиная с 1870-х годов собираются и публикуются грузинские народные песни. В изучении грузинского музыкального фольклора, в составлении сборников народных песен принимали участие и русские музыканты Х. А. Гроздов, М. М. Ипполитов-Иванов, А. Н. Корещенко, Н. С. Кленовский.
В эти годы молодой композитор много сил отдает работе, преподает в музыкальном училище, создает свои первые произведения. В первых композиторских опытах Ипполитова-Иванова (оперы «Руфь», «Азра»; «Кавказские эскизы») уже проявились черты, характерные для его стиля в целом: мелодическая напевность, лиризм, тяготение к малым формам. Удивительная красота Грузии, народные обряды восхищают русского музыканта. Он увлекается грузинским фольклором, записывает в Кахетии в 1883 году народные мелодии, изучает их.