Так началась инженерно-музыкальная жизнь. Кроме того, Гмыря на велосипеде через полгорода (жил Борис в районе Шатиловки) по вечерам ездил к Голубеву на квартиру, на дополнительные занятия вокалом. И не только вокалом. Жена Голубева вспоминала, что молодого лебединца не только избавляли от характерного акцента, но и учили правильно держаться в обществе, одеваться, вести себя за столом. «Гмыря впитывал все, как губка», — говорила Голубева.
В 1933 году Роман Константинович умер, но мать Борису удалось поддержать. Смерть отца была не единственным изменением в личной жизни Гмыри. В Харькове он познакомился и женился на Анне Ивановне — тогда студентке педагогического института.
В 1935 году Борис Романович с отличием окончил инженерностроительный институт, был выдвинут на научно-исследовательскую работу, но долго ею не занимался. Музыка стала главной и единственной профессией Гмыри. В консерватории Борис Романович быстро выделился среди своих однокурсников как талантливейший певец и один из самых серьезных студентов. В 1936 году, студентом третьего курса консерватории, он неожиданно для себя получил приглашение на работу в Харьковский оперный театр. И не просто на работу, а солистом. Два года Борис Романович пел небольшие партии, но наряду с ними ему стали поручать и первые роли: Томского в «Пиковой даме», Галицкого в «Князе Игоре», Вакулинчука из «Броненосца Потемкина», Половцева в «Поднятой целине».
Настоящая известность к Борису Романовичу пришла в 1939 году. В январе Гмыря принял участие во Всесоюзном конкурсе вокалистов в Москве, где ему была присуждена вторая премия и звание лауреата. В том же году осенью певец окончил с отличием Харьковскую консерваторию по классам П. Голубева (пение) и С. Масловской (сценическое мастерство). В «выпускной» опере консерватории Гмыря спел партию Бориса Годунова, которую традиционно исполняли не выпускники, а опытные певцы. Для Бориса Романовича было сделано исключение. Говорят, он замучил художественную руководительницу просьбами достать книги не только о самой партии в этой опере Мусоргского, но и о личности самого Годунова, об отношении к его фигуре Пушкина и т. д. Это серьезное отношение в работе над ролью отличало певца и впоследствии, все энциклопедии отмечают, что Гмыря достигал полного слияния музыкального и драматического начала в своих партиях. В недавно показанном по телевидению документальном фильме о знаменитом басе директор Пушкинского музея в Михайловском рассказывал интересные вещи о том, как готовящийся к очередному исполнению партии Годунова уже маститый певец Гмыря приезжал в музей, ходил по комнатам, просил разрешения спеть на крыльце, в комнате, посмотреть на рукописи поэмы. Все для того, чтобы лучше понять замысел великого поэта, атмосферу, в которой он писал!
Сразу по окончании консерватории Гмырю пригласили в Киевскую оперу. Он согласился — ведь столица-то уже находилась именно в Киеве, там открывались большие возможности для карьерного роста. Впрочем, в Киевском оперном театре все складывалось далеко не просто. Дело в том, что у Бориса Романовича был потрясающе широкий диапазон. Он в состоянии исполнять и партии баса, и баритона, и даже тенора! Некоторое время в «Тарасе Бульбе» Гмыря пел и партию Тараса (бас) и партию Андрея (тенор). Правда, злоупотреблять этими способностями не стоит, чтобы не потерять силу и красоту голоса. Но Гмыре стали регулярно давать и баритональные и тенорные партии. Однажды он даже написал специальное заявление на имя директора: «Прошу не загружать меня теноровыми партиями, поскольку это ведет к деградации голоса». В конце концов эксперименты прекратились. Вообще, все, кто имел дело с Борисом Романовичем, вспоминают, что его отношение к голосовым связкам было более чем трепетным. Одна из его младших коллег рассказывает, что однажды шла по улице в веселой компании и встретила Гмырю. Вечером корифей позвонил ей домой и отчитал: «Как Вы себя ведете. Вы шли по улице в распахнутом пальто и смеялись. Я уж не говорю, что на улице лучше вообще рот не открывать, но еще и смеяться!!!» По десять часов в день Гмыря проводил у рояля, курить бросил в молодости. Он говорил, что успехом обязан на 10 процентов таланту, а на 90 — труду. Кроме музыки, его увлекал еще ряд вещей — автомобили, охота (правда, рассказывают, что ружье свое он так ни разу и не разрядил — ходил, смотрел). Находясь на гастролях, Борис Романович в свободное время обязательно посещал музеи. К деньгам относился спокойно, к моменту его смерти на книжке знаменитого баса было 434 рубля.