Михаил Голицын, потомок великого князя литовского Гедимипа, родился в самом конце царствования Алексея Михайловича в семье боярина и курского воеводы Михаила Андреевича Голицына. Имея придворный чин стольника, начал службу с двенадцати лег в «потешных» войсках подрастающего царя Петра барабанщиком Семеновского полка. В 1694 г. был произведен в первый свой офицерский чин прапорщика. В Азовских походах за боевые отличия получил чин поручика. В 1698 г. под командой Гордона и Шеина под стенами Воскресенского монастыря участвовал в подавлении выступления стрелецких полков. В следующем году в чине капитана сопровождал Петра в морском походе русской эскадры по Азовскому морю.
С началом Северной войны Голицын находился в армии и сражался под Нарвой в составе гвардии, отражавшей атаки войск Карла ХП на правом фланге; был ранен. В чине подполковника 12 октября 1702 г. командовал отрядом Семеновского полка при штурме крепости Нотебург. Шведы отчаянно сопротивлялись и отбили штурмующие колонны русских. Петр, сомневаясь в возможности взятия крепости, уже послал приказ отступить, но Голицын, оттолкнув от берега Невы лодки, чтобы солдаты не думали о бегстве, повел их еще на один приступ, Нотебург был взят после тринадцати часов кровопролитного боя. За этот подвиг князь был награжден поместьями, золотой медалью и чином полковника лейб-гвардии Семеновского полка, даваемым обычно только членам царствующего дома. Отличился Голицын и при осаде Ниеншанца в 1703 г., в штурмах Нарвы и Митавы в 1704 и 1705 гг. В следующем году стал командиром дивизии и получил чин генерал-майора.
30 августа 1708 г. Голицын одержал блестящую победу при селе Добром над отрядом шведского генерала Росса. Со своими гренадерами под прикрытием тумана он подошел вплотную к шведам и неожиданно напал на них, хотя и не имел численного превосходства. Сражение продолжалось два часа и окончилось полным разгромом шведов, потерявших до 3 тысяч человек. Карл XII с главными силами не успел вступить в бой, и Голицын организованно отошел со своим отрядом к основным силам русской армии. Прямо на поле сражения царь наградил Михаила Михайловича орденом св. Андрея Первозванного. 28 сентября в сражении при Лесной он своими действиями способствовал победе русского оружия, после чего государь, видевший Голицына на поле боя, произвел его в генерал-поручики и наградил своим портретом с бриллиантами.
В Полтавском сражении князь командовал гвардией, а затем вместе с А. Д. Меншиковым и кавалерийскими полками Боура и Волконского преследовал отступавшие шведские войска и принудил их 30 июня 1709 г. к сдаче у Переволочим. Несмотря на нехватку сил, он потребовал от фельдмаршала Левенгаупта капитулировать. К этому времени подошли войска Меншикова, и 16 тысяч шведов сложили оружие. На следующий год Голицын был среди осаждавших и взявших крепость Выборг войск, а еще через год участвовал в Прутском походе, чуть не окончившемся трагедией для русской армии, и один из первых высказался на военном совете против капитуляции перед турками, осадившими русский лагерь.
По проекту Петра I в 1712 г. Голицыну предстояло принять участие в операциях Ингерманландского корпуса против шведов в Финляндии. Он стал ближайшим помощником генерал-адмирала Ф. М. Апраксина. В мае он прибыл в Санкт-Петербург и принял на себя командование над полевыми войсками. Вместе с Апраксиным и другими военачальниками разработал и внедрил правила походной службы, устройства лагерей, караульной службы, диверсий, действий галерного флота.
С 1714 г. Голицын принял командование войсками в Южной Финляндии. 12 февраля его войска сошлись с 8-тысячным отрядом шведского генерала Армфельда у деревни Лаппола (Наппо). Шведы выбрали удобную позицию и, когда князь повел войска в атаку, первыми дали залп по русским и устремились в штыки. Русские открыли губительный огонь и перешли в контратаку. Дважды Армфельд отбрасывал русскую пехоту, но когда четыре спешенных драгунских полка ударили с тыла по центру позиции шведов, они побежали. Шведы потеряли только убитыми 5 тысяч человек. «Такого скорого и тяжелого огня на мою особу никогда не бывало. Но милостию Божиею и Его Царского Величества счастием над неприятелем учинена виктория…» — писал Голицын Апраксину. За это сражение Петр I наградил Михаила Михайловича чином генерал-аншефа.
27 июля Голицын участвовал в морском сражении при Гангуте, в котором русские под началом генерал-адмирала Апраксина и самого царя Петра разбили эскадру адмирала Ватранга. В результате побед на суше и на море в 1714 г. Финляндия оказалась под контролем России.