Свой первый военный опыт Джон Мальборо обрел в ходе англо-голландской (2-й Нидерландской) войны 1672–1674 годов. В составе английского экспедиционного корпуса он воевал во Франции под знаменами принца Конде. Командование обратило внимание на его активность и сообразительность во время осады крепости Нимвеген. Потом Мальборо отличился в битве при Маастрихте в 1673 году, за что французский король Людовик XIV лично высказал ему свою благодарность перед строем войск, направив также восхищенный отзыв о мужестве английского офицера в королевский дворец в Лондон.
После войны Джон Мальборо выгодно женился на аристократке Саре Дженнингс. В 1678 году Мальборо получил в командование полк королевской пехоты, а затем — бригаду в составе следующего во Фландрию экспедиционного корпуса герцога Монмута. В 1679 году полковник Мальборо сопровождал в Гаагу и Брюссель изгнанного из Англии герцога Йоркского, приобретя в нем, таким образом, венценосного покровителя. Сразу после возвращения в Англию будущий король Яков II наградил Мальборо титулом баронета и доверил командование гвардейским кавалерийским полком. После же вступления на престол в 1685 году он пожаловал Мальборо звание пэра с титулом лорда Сэнндриджа и назначил королевским посланником во Францию.
Прекрасная возможность отблагодарить своего венценосного покровителя представилась Джону Мальборо, когда герцог Монмут поднял в Южной Англии антиправительственный мятеж, грозивший перекинуться на другие области государства. Отправленный на усмирение мятежников королевский военачальник лорд Мальборо отличился жестокими действиями против сторонников герцога Монмута, за что был награжден чином генерал-майора.
К сожалению, вскорости Мальборо, как откровенный приверженец протестантства, попадает в опалу короля-католика Якова II.
Во время государственного переворота 1688 года Джон переходит на сторону герцога Вильгельма Оранского, который становится английским королем Вильгельмом III. В знак благодарности новый монарх делает Мальборо членом Тайного совета и поручает главное командование сухопутной армией Английского королевства.
В 1690 году генерал Джон Мальборо разбил ирландских католиков — сторонников короля Якова II, после чего восставшая против английского владычества Ирландия подчинилась Лондону.
Однако, возвратившись из Ирландии, лорд Мальборо оказывается замешанным в антикоролевском заговоре: вместе с лордом Годольфином он начал переговоры с низвергнутым с английского трона Яковом II о восстановлении его власти. Попытка государственного переворота была предупреждена, а генерал Мальборо арестован, обвинен в государственной измене и заточен в Тауэр. Но в ходе судебного следствия достаточных оснований для полного обвинения пэра Мальборо в столь страшном преступлении не нашли.
Мальборо с великим трудом удалось вернуть свое прежнее положение при дворе, чему во многом способствовала начавшаяся европейская война за испанское наследство 1701–1714 годов.
В ноябре 1700 года после смерти испанского короля Карла II, не оставившего прямого наследника, находящийся с ним в родстве французский монарх провозгласил своего внука Филиппа Анжуйского (будущего Филиппа V) королем Испании. Такой альянс означал возвышение Франции в Европе, против чего сразу выступили Англия, Голландия и Священная Римская империя. К ним в ходе войны присоединились Дания, Португалия, Пруссия и ряд небольших германских государств. Францию же в войне поддержали Испания, Бавария, Кельнское курфюрство, Савойя (вскоре перешедшая на сторону противников), итальянские города-государства Парма и Мантуя.
Король Вильгельм III через два года после попытки государственного переворота призвал к себе лорда Джона Мальборо, произвел его в полные генералы и назначил главнокомандующим английскими войсками в союзной Голландии, возложив на него и обязанности ведения переговоров по созданию военной коалиции против французского короля Людовика XIV.
С королевским поручением лорд Мальборо справился блестяще, после чего получил титул герцога и звание генерал-фельдцейхмейстера. Воцарившаяся же на английском престоле королева Анна наградила храброго полководца орденом Подвязки. После этого герцог и его жена Сара Дженнингс стали одними из наиболее влиятельных людей в Англии.
13 августа 1704 года Джон Мальборо, соединившись с 16-тысячной австрийской армией Евгения Савойского, вступил в сражение при Гохштедте, в котором французско-баварские войска потерпели тяжелое поражение. От английской королевы Анны герцог Мальборо получил за свою победу большое поместье, а австрийский император пожаловал ему титул владетельного принца Миндельсгеймского.