Постепенно за Тейлором закрепилась слава удачливого командира. В 1814 г. он даже заменил заболевшего генерала Говарда в экспедиции вверх по Миссисипи, завершившейся успешным боем в районе острова Кредит, в котором сражение велось не только с индейцами, как до этого, но и с регулярными британскими частями. Правда, вслед за этим он был вынужден отступить, так как силы противника оказались значительно крупнее, чем он предполагал. Это, однако, не повлияло на репутацию Тейлора.
По окончании войны Тейлор был уволен в отставку, но по его просьбе через год был восстановлен в армии и теперь уже в звании майора на постоянной основе. Военная служба продолжалась в относительно мирное время — относительное потому, что почти непрерывно вспыхивали мелкие восстания индейских племен, которые жестоко подавлялись, в чем Тейлор активно участвовал.
В течение двух лет Тейлор командовал крупным Форт-Говардом на территории Мичигана. В апреле 1819 г. ему было присвоено звание подполковника, причем он, несмотря на еще не очень высокое звание, считался перспективным военным и даже приглашался на прием к президенту Монро. Затем последовали новые назначения, в основном связанные с продвижением на запад, созданием новых военных постов, а затем и укрепленных фортов. Несмотря на то что Закари был военным практиком, а в теории разбирался слабо, в 1826 г. он был вызван в Вашингтон и включен в состав комитета, разрабатывавшего основы строительства и организации вооруженных сил США. По всей видимости, ни он, ни его начальство не были удовлетворены тем, как вел себя малоразбиравшийся в теоретических вопросах военный. Ему же просто было скучно в столице, он стремился вернуться «на поле действия». В 1828 г. Тейлору это удалось, и он возглавил Форт-Кроу в Мичигане. К 1838 г. сопротивление индейцев было в основном подавлено, и Тейлор, который к этому времени стал полковником, сыграл в этом немалую роль.
В середине 30-х гг. Тейлор попытался воспрепятствовать браку своей 17-летней дочери Сары с лейтенантом Джефферсоном Дэвисом, амбициозным молодым человеком, которому позже предстояло стать президентом южной Конфедерации во время Гражданской войны 1861–1865 гг. Он хорошо относился к лейтенанту, но считал, что быть женой военного — нелегкая судьба для молодой женщины. После четырех лет споров Сара все же вышла замуж за Дэвиса. Но брак был недолгим — Сара скончалась всего через три месяца от малярии — болезни, распространенной на проходившей через дикие места западной границе. Для полковника это была серьезная потеря, которую он встретил, как полагалось, по его мнению, солдату — своих чувств он никак не проявил.
В 1838 г. Тейлор получил наконец генеральское звание. Новый бригадный генерал был назначен командующим американскими войсками во Флориде, где продолжил наводить порядок жесткой рукой, преследуя любое неповиновение индейцев и изгоняя их племена с территории полуострова. Он получил характерное прозвище
В преддверии аннексии Техаса Тейлор в апреле 1844 г. был направлен в Форт-Джезуп в Луизиане, где должен был подготовить войска к возможному мексиканскому вторжению, став командующим всеми американскими войсками в этом важном регионе. Были и генералы более высокого ранга, которые могли занять этот пост, но президент Полк избрал именно Тейлора, зная, что он не поддерживает связей с вигами и декларирует свою аполитичную позицию.
Ему удалось быстро привести войска в боевую готовность, а вслед за этим он получил приказ президента разместить свои части «на или вблизи от реки Рио-Гранде», то есть, по представлению властей США, на границе между квазинезависимым Техасом и собственно Мексикой. Уже это означало начало военного конфликта, так как мексиканское правительство считало, что граница проходит не по Рио-Гранде, а значительно севернее — по реке Нуэсес. Тейлор вторгся на спорную территорию, откуда был готов начать наступление вглубь Мексики. Он даже назвал свои силы «армией оккупации» (
Когда в мае 1846 г. война действительно началась, Тейлор почти сразу одержал победу в боях в районе Ресака де ла Пальма, хотя численно мексиканские войска в этом районе значительно превосходили его силы. Эта победа сразу превратила его в национального героя, тем более что в прессе весьма колоритно описывалось гуманное обращение генерала с пленными мексиканцами. Его начали сравнивать с Дж. Вашингтоном и Э. Джексоном — двумя военными, которые во многом благодаря своим победам на поле боя заняли президентские посты. Уже в июне последовало новое повышение — до генерал-майора.