28 мая 1761 года Дмитрий Михайлович был назначен чрезвычайным послом в Вене и занимал этот пост свыше 30 лет, сыграв большую роль в улучшении отношений российского двора с императором Иосифом II. (В Вене он служил до 9 апреля 1792 года, когда его сменил тайный советник граф Андрей Кириллович Разумовский. Последнего в 1790 году определили в помощь Голицыну, и князь, глубоко огорченный недоверием к себе, в апреле 1792-го вышел в отставку.) По случаю коронации императрицы Екатерины II (сентябрь 1762 г.) Голицын был пожалован в генерал-поручики, а в апреле 1773 года его произвели в действительные тайные советники и в том же году наградили орденом Святого Андрея Первозванного (через десять лет, 22 сентября 1783 года, князь был пожалован орденом Святого Владимира I степени; между тем за свою службу он еще в 1759 году был удостоен другой высшей российской награды – ордена Святого Александра Невского).
По словам князя Ф. Н. Голицына, Дмитрий Михайлович «…человек был почтенный, добрый, всеми любим… жил почти открытым домом и великолепнее своих сотоварищей. В нем было, между прочим, то достоинство, что он мог приобресть доверенность не токмо тамошних министров, но и самого государя. Император Иосиф, когда надобно было о чем-либо важном переговорить, давал ему знать, куда и в какое время приехать; по большей части сии свидания бывали в загородном доме у князя. Таким поведением в посланнике собственный двор должен быть доволен, а князь мог называться со всех сторон счастливым».
Покровительство эрцгерцогини Австрии Марии-Терезии и Иосифа II способствовало установлению широких связей князя с австрийскими любителями искусства, с художниками и антикварами. Его деятельный интерес к искусствам, широкая благотворительность были отмечены Академией художеств в Венеции (1781), Академией рисунка (1766) и Академией художеств в Вене (1791), почетным членом которых был избран Д. М. Голицын. Михаил Степанович Гастев, чиновник канцелярии Московского военного генерал-губернатора, статский советник, известный своими трудами по москвоведению, в 1841 году писал: «Князь Дмитрий Михайлович, в продолжение 30 лет, стяжал себе в Вене любовь всеобщую. Милостивый ко всем бедным вообще, он особенно покровительствовал ученым и художникам и, содействуя их занятиям, вниманием, словом, делом, доставлял обществу полезные плоды трудов их, а себе высокое нравственное наслаждение, к которому доступны одни люди доброжелательные» («Материалы для полной и сравнительной статистики Москвы»). Улица в Вене, на которой находилась загородная вилла посла России, в память о нем названа Голицынштрассе. Находящийся неподалеку 450-метровый холм, называвшийся ранее Предигштуль («кресло проповедника»), тоже носит имя русского посланника, Голицынберг (в 1780 году Дмитрий Михайлович выкупил лесные угодья на западе Вены у фельдмаршала Ласси и в своем охотничьем домике стал устраивать пышные приемы для австрийской аристократии).
После смерти не имевшего детей князя Голицына по завещанию его душеприказчиками были назначены двоюродные братья: Александр Михайлович и Михаил Михайлович Голицыны, которым вменялось исполнить его волю – учредить в Москве больницу. На ее строительство и содержание среди прочего Дмитрий Михайлович назначил 850 тысяч рублей, доходы с двух вотчин, в которых числилось две тысячи душ крестьян, и свою картинную галерею «со многими домашними вещами».
В завещании Д. М. Голицына особо отмечалось: «Повелеваю отдать двоюродному брату моему господину обер-камергеру князю Александру Михайловичу Голицыну […] все мои картины, эстампы и рисунки, большие порцелиновые вазы, бронзою оправленные, две поясные, мраморные статуи и сверх того золотую с синею финифтью и с портретом государыни императрицы табакерку, осыпанную бриллиантами, прося его сиятельство принять сей малый дар в знак моей к нему дружбы и истинного почтения» (И. И. Сейделер, «Московская Голицынская больница в ряду европейских больниц». М., 1865).