Сразу после революции Мейдзи пришедший к власти феодально?буржуазный блок под эгидой монархии начал создавать вооруженные силы на основе существовавших войсковых формирований и кораблей феодальных княжеств. Осенью 1868 года были организованы штабы сухопутных войск и ВМФ, в 1870 году — военное министерство, разделенное через три года на военное и морское министерства. Во главе флота оказались преимущественно самураи из бывшего феодального княжества Сатсума. Среди них был и Того. Новой Японии требовались хорошо подготовленные моряки для нового флота. В 1871 году Хэйхатиро поступил в Токио в морское училище. Но морскую подготовку, особенно командиров для современных паровых броненосных судов с массой технических усовершенствований, в стране было проводить сложно. Потому 12 курсантов, включая Того, выехали на обучение за границу. Англия, обеспокоенная активностью России на Дальнем Востоке, предпринимала усилия, чтобы противопоставить ей Японию. Английские специалисты готовили японских моряков, английские верфи строили первые броненосные суда японского флота. Все это принесло свои плоды.
7 лет провел Того в Англии. Он обучался в Кембридже, обошел вокруг света на «Хэмпшире», наблюдал за строительством броненосца «Фусо» в Гринвиче. Вернулся Того в 1879 году на только что построенном на британских верфях корабле «Хиэй». В 1880 году он — капитан?лейтенант, в 1882 году — помощник командира «Акаги», а через три года (в 38 лет) — командир этой канонерки. В 1887 году его произвели в капитаны 1?го ранга. До 1894 года Того командовал крейсерами, состоял начальником базы Курэ. К началу японо?китайской войны моряк был командиром крейсера «Нанива», одного из новейших кораблей. На нем он и отличился в боевых действиях.
Первое столкновение в этой войне произошло у острова Пхундо, при входе в Азанский залив. К 19 июля 1894 года японский флот под командованием вице?адмирала Ито в готовности стоял на рейде Сасебо, тогда как крейсер «Яэяма» и несколько старых судов капитана 1?го ранга Хираяма были направлены к Чемульпо для прикрытия транспортов с войсками, направленных в Корею. 23 июля Ито, получив инструкции, направился в корейский порт Кунсан, связанный телеграфной линией с Японией. Вечером 24 июля от главных сил отделилась для разведки Азанского залива летучая эскадра контр?адмирала Цубои в составе быстроходных крейсеров «Иосино», «Нанива» и «Акицусима». Следующим утром у входа в залив, вблизи острова Пхундо, с японских крейсеров заметили два китайских корабля: крейсер «Цзи Юань» и канонерскую лодку «Гуани», которые должны были сопровождать транспорт «Гаошен» с войсками. Считая, что китайцы уничтожили отряд Хираяма, Цубои решил атаковать китайские корабли, когда они выйдут из пролива в открытое море. С расстояния 3000 метров японцы открыли огонь по «Цзи Юань». Китайцы до начала обстрела не объявили боевую тревогу и получили значительные повреждения от огня «Иосино» и «Нанива». Командир крейсера, подняв белый и японский флаги, смог оторваться от летучей эскадры под прикрытием тумана. Канонерка «Гуани» под обстрелом «Нанивы» и «Акицусимы» получила тяжелые повреждения; ее командир высадил остатки экипажа на берег, а корабль взорвал. Но тут японцы обнаружили английский пароход «Гаошен» под конвоем старого деревянного корабля «Цаоцзян». Цубои, направив «Иосино» преследовать китайский крейсер, послал «Акицусиму» за пытавшимся скрыться «Цаоцзяном», который ввиду явного превосходства противника сдался без боя. Того достался транспорт «Гаошен». Это судно под английским флагом с европейским экипажем перевозило в Корею 1200 солдат, 14 пушек и другое вооружение.
Капитан Т. Голсуорси продолжал путь к Асану, не получив от командира проходившего мимо «Цзи Юань» приказа отходить. Остановив транспорт двумя холостыми выстрелами, Того послал катер с японским офицером, который установил принадлежность груза и пассажиров китайской армии и приказал вставшему на якорь судну следовать за крейсером. Однако китайцы воспрепятствовали капитану выполнить приказ и угрожали перебить всех европейцев на борту. Того, узнав о захвате судна китайскими войсками, отдал приказ европейцам оставить судно, обреченное на уничтожение. Так как выпущенная торпеда в цель не попала, с «Нанивы» открыли огонь из 5 152?мм орудий. Менее чем через полчаса «Гаошен» затонул с большинством экипажа и китайских войск. Японцы приняли на борт лишь капитана и двух членов команды; еще 147 человек спасло проходившее позднее корейское судно. Присоединив вышедшие из Азанского залива корабли Хираямы, Цубои направился к Куинсану на соединение с главными силами.
Первая победа на море придала японскому флоту уверенность в своих силах, а потопление «Гаошена» продемонстрировало, что японцы не намерены щадить суда даже под нейтральными флагами.
Вторично Того отличился в сражении при реке Ялу, когда летучая эскадра, включавшая и «Наниву», сыграла решающую роль в разгроме китайской эскадры.