Вернувшись в Россию, Шереметев получил командование над войсками в Белгороде и Севске, отвечавшими за охрану от крымских набегов. Служба вдали от Москвы позволила Шереметеву не делать выбора во время борьбы между царевной Софьей и Петром I. В 1695 году участвовал в первом Азовском походе Петра I, но на отдаленном от Азова театре военных действий — командовал армией, действовавшей на Днепре против крымских татар.
В 1697—1699 годах Шереметев совершил путешествие по Западной Европе (был в Польше, Австрии, Италии, на острове Мальта, где его сопровождал Иоанн Пашковский), выполняя дипломатические поручения Петра I, и вернулся в Россию в немецком платье, вызвав тем самым восторженный приём царя
.Во время Северной войны 1700—1721 годов проявил себя осторожным и талантливым полководцем, заслужившим доверие Петра I. После поражения под Нарвой Шереметев был направлен в Восточную Прибалтику. В 1701 году у мызы Эрестфер Шереметев нанёс шведам поражение, от которого они «долго необразумятца и не оправятца», за что был награждён орденом Андрея Первозванного и пожалован чином Генерал-фельдмаршала. В 1702 году Шереметев нанёс поражение шведам при селении Гуммельсгофе, в 1703 году взял города Вольмар, Мариенбург и Нотебург, переименованный в Шлиссельбург; в 1704 году овладел Дерптом.
За подавление мятежа стрельцов в Астрахани в 1705—1706 годах Шереметев был первым в России удостоен графского титула. В Полтавском сражении Шереметев играл скромную роль, но заслужил одобрение Петра I. В 1709—1710 годах после осады взял Ригу и, отпраздновав недолгий триумф, был отправлен в неудачный для русской армии Прутский поход.
В 1712 году Шереметев заявил Петру I о своём желании постричься в монахи Киево-Печерской лавры, но царь заменил монастырь женитьбой на молодой красавице А. П. Салтыковой. В 1715 году Шереметев был поставлен командующим русским экспедиционным корпусом в Померании и Мекленбурге для совместных действий с прусским королем против шведов — дело для Шереметева ничем не примечательное. В 1717 году он возвратился в Москву и после тяжёлой болезни скончался.
Статья «Шереметев, Борис Петрович»
Необходимо обратить внимание на тот факт, что за границей было нанято около 700 военных «специалистов». Или, другими словами, целый полк наёмников (такого количества ремесленников точно было не набрать). Они совместно с людьми Шереметева вполне могли разрушить переправы. Отсюда и крики: «Немцы — изменники!».
После разгрома под Нарвой ближайшие сподвижники Петра I оказались в плену у шведов, а стрельцов разоружили. После этого нетрудно было целыми сотнями казнить стрельцов, отказавшихся присягнуть самозванцу. Эти события на бумаге были перенесены в 1698-99 годы. Однако в то время массовых казней стрельцов не должно было быть, потому что все виновные в бунте были уже наказаны, а России предстояла война со Швецией.