Вернувшись в Россию при новом царствовании, Голицын в 1740 году в свите русского посла Александра Ивановича Румянцева отправился в Константинополь, будучи капитаном гвардии. Дочь Петра I, Елизавета, вступившая на престол в конце 1741 года, вернула роду Голицыных царское расположение. При ней Александр Михайлович успешно продвигался по ступеням военно-дипломатической карьеры, уже в 1744 году он получил чин генерала-поручика. Вскоре князь Голицын стал камергером высочайшего двора и был определен полномочным министром в Саксонию (с декабря 1748 г. по декабрь 1749 г. он исполнял обязанности чрезвычайного посланника в Гамбурге и Нижнесаксонском округе).
После смерти матери в 1757 году, которой хотелось, чтобы он оставался на дипломатическом поприще, князь сменил камзол дипломата на военный мундир: желая участвовать в Семилетней войне, он добился назначения в действующую армию, сражавшуюся против Пруссии, и принял участие в знаменитом сражении у Кунерсдорфа. Командовавшему левым флангом русской армии Голицыну пришлось нелегко: его полкам, составленным из рекрутов, пришлось принять на себя массированный удар сразу трех колонн пруссаков. Стойко обороняясь, подначальные Голицыну войска в конце концов не выдержали натиска пехоты и кавалерии противника и отступили, при этом сам Александр Михайлович был ранен (военный писатель Д. Бантыш-Каменский полагал, что, если бы не ранение, вынудившее Голицына передать командование другому командиру, князь со своими полками выдержал бы напор пруссаков). Между тем русская армия одержала победу, и императрица Елизавета Петровна пожаловала князю Голицыну за военные подвиги орден Александра Невского и чин генерал-аншефа. После прекращения военных действий против Пруссии в 1761 году он принял начальство над русскими войсками, расположенными в Ливонии.
Когда на престол вступила императрица Екатерина II, князь Александр Михайлович в день ее коронования (1762) удостоился ордена Святого Апостола Андрея Первозванного и звания генерал-адъютанта и стал членом Совета, учрежденного при высочайшем дворе. Императрица, ценившая его дипломатические и военные знания, все больше доверяла князю Голицыну.
Как следствие, в ноябре 1762 года он был назначен членом учрежденной Временной комиссии для составления новых положений по сухопутным войскам, а также стал фактическим командующим Санкт-Петербургской дивизией. В конце 1767 года, после смерти А. Б. Бутурлина, князь принял на себя командование Лифляндской дивизией.
В конце 1768 года последовал разрыв с Турцией, положивший начало русско-турецкой войне, и Екатерина доверила Александру Михайловичу командовать 1-й армией, с которой он двинулся к Хотину (2-ю армию возглавил граф Румянцев).
«Желаю ему счастие отцовское», – писала императрица о Голицыне графу П. Салтыкову. Разбив 40-тысячный корпус противника, Голицын не решился, однако, на штурм Хотина и отошел назад для пополнения своих полков и укрепления тыла. В июле 1769 года он вновь двинулся к Хотину и приступил к осаде крепости. Прибытие свежих турецких и татарских войск на помощь осажденным могло повлечь за собой большие потери русских при штурме, и командующий, дорожа жизнью вверенных ему солдат, решил снять осаду и вновь отвел армию за Днепр; заодно он хотел выманить противника на удобную для сражения позицию. В это время Екатерина решила направить на смену Голицыну генерал-аншефа П. Румянцева, рассчитывая, что тот будет действовать более решительно. Но до прибытия нового командующего замысел Александра Михайловича дать туркам сражение в удобных для себя условиях оправдался. 29 августа турецкие войска под командованием верховного визиря Молдаванчи-паши переправились через Днестр и атаковали русскую армию и были разбиты и сброшены в реку; турки потеряли почти семь тысяч человек, около семидесяти пушек и мортир и обоз. 9 сентября русская армия заняла брошенный турками Хотин и вслед за тем вступила в Яссы. После этого армию принял Румянцев, и Голицын вернулся в Петербург, где императрица встретила его со всем радушием и пожаловала чином генерала-фельдмаршала (20 октября 1769 г.). После заключения Кючук-Кайнарджийского мира покорителю Хотина была пожалована украшенная алмазами шпага с надписью: «За очищение Молдавии до самых Ясс». Наиболее отличившемуся при разгроме турок под Хотином Рязанскому 69-му пехотному полку было присвоено имя Голицына. (Упоминавшийся выше Д. Бантыш-Каменский описал один эпизод, относящийся к 1769 году. Проездом через Москву покоритель Хотина пригласил фельдмаршала П. Салтыкова, под знаменами которого он сражался под Кунерсдорфом, посетить Успенский собор. Когда они вступили в храм, в котором в тот момент никого не было, Салтыков сказал Голицыну: «Здесь так пусто, как в Хотине».)