Будущий фельдмаршал в 1846 г. окончил Пажеский корпус. Участвовал в Крымской войне 1853–1856 гг. Чтобы встать в ряды защитников Севастополя, перевелся из гвардии в пехотный генерал-фельдмаршала графа Дибича-Забалканского полк, заявив, что желал бы «жить с кавалерией, а умирать с пехотой». По возвращении из действующей армии в родной Гусарский полк на строевом смотре он и попался императору на глаза.
Здесь при желании можно обнаружить некую символику. Командирское становление Гурко совпало с эпохой буржуазных реформ Александра II. В 1861 г. став полковником, Иосиф Владимирович на протяжении четырех лет трудился на административной ниве, будучи командирован царем с поручениями в Самарскую, Вятскую и Калужскую губернии. По свидетельству современников, строгость и настойчивость в достижении целей реформы он сочетал с беспристрастностью и объективностью по отношению ко всем общественным силам, представленным в провинции. Это отметил даже радикальный герценовский журнал «Колокол», назвавший аксельбанты флигель-адъютанта Гурко «символом доблести и чести».
До поры до времени служебный рост будущего фельдмаршала шел как бы рутинно, без особых поворотов и неожиданностей. В нем, однако, ни на минуту не прекращалась во многом подспудная, незаметная окружающим работа, позволившая уже через десяток лет выдвинуться в число выдающихся военачальников своего времени. Достаточно сказать, что все воинские части и соединения, которые вверялись ему, – 4-й гусарский Мариупольский и лейб-гвардии Конно-Гренадерский полки, 1-я бригада 2-й гвардейской кавалерийской дивизии – отличались отменной выучкой. Всего за год с небольшим Гурко из командира бригады вырос в командира родной для него 2-й гвардейской кавдивизии и был произведен в 1876 г. в генерал-лейтенанты. Приближался звездный час Иосифа Владимировича. Как для всякого профессионального военного, он возможен только – такова уж суровая действительность – на поле брани.
С началом русско-турецкой войны 1877–1878 гг. Гурко высочайшим повелением был откомандирован в действующую Дунайскую армию. По настоянию начальника Главного штаба генерала Д.А. Милютина после успешного форсирования в июне 1877 г. Дуная русские должны были двигаться через Балканы к Константинополю, стремясь разбить противника по частям (
Обстановка благоприятствовала русским, поскольку турецкое командование не ожидало появления здесь крупных сил противника. Пользуясь этим, Гурко стал энергично осуществлять поставленную задачу. 25 июня древняя столица Болгарии Тырново была взята. Местное население с восторгом встретило русских «братушек».
На очередь дня встало овладение перевалами. За Балканы можно было идти четырьмя проходами, наиболее удобным из которых являлся Шипкинский. Но турки сильно укрепили его, к тому же южнее, в районе Казанлыка, держали крупные резервы. Из оставшихся трех проходов турками не контролировался лишь наиболее трудный – Хаинкиойский. Гурко и избрал его, чтобы обойти шипкинскую позицию турок. Его отряд успешно преодолел перевал и 5 июля занял Казанлык. Сложилась ситуация, когда турок, засевших на Шипке, можно было одновременно атаковать как с севера, так и с юга, с тыла, куда вышел отряд Гурко. Русские не упустили такую возможность. После двухдневных ожесточенных боев противник, считая невозможным далее удержать позиции, отступил горными тропами к Филиппополю. 7 июля Шипкинский перевал был занят русскими.