Его замкнутый образ жизни, неприятие жестокого мира, в котором нет места доброте и милосердию, породили множество нелепых слухов, распространявшихся ненавидевшими Великого князя завистниками. Сергей Александрович писал в 1883 году: «Я всё больше и больше убеждаюсь, что, чем больше иметь сердца здесь, на земле, тем больше приходится страдать и нравственно и физически. Сердце ничего не стоит для людей, и они никогда его не ценят. Чем меньше отдаёшься сердцем делам, тем спокойней может быть».
Но в это же самое нелёгкое для себя время он обрёл личное счастье. Его избранницей стала дальняя родственница – одна из любимых внучек английской королевы Виктории, гессенская принцесса Елизавета. В семье её называли Эллой. Выросла она в очень простой обстановке, была приучена к выполнению любой домашней работы, любила природу, обожала музыку, неплохо рисовала и вообще отличалась возвышенной и чуткой душой. Своё имя она получила в честь одной из прародительниц Гессенского рода – Святой Елизаветы Тюрингенской, всю свою жизнь посвятившей заботам о ближних, делам милосердия. Красавица с добрым и отзывчивым сердцем, Элла сразу пленила Великого князя. Когда она приехала в Россию, все были буквально очарованы её деликатностью, сдержанностью, кротким, мягким характером. Великий князь Константин Константинович писал:
Я на тебя гляжу, любуясь ежечасно:
Ты так невыразимо хороша!
О, верно под такой наружностью прекрасной
Такая же прекрасная душа!
Какой-то кротости и грусти сокровенной
В твоих очах таится глубина;
Как ангел, ты тиха, чиста и совершенна;
Как женщина, стыдлива и нежна.
Пусть на земле ничто средь зол и скорби
многой
Твою не запятнает чистоту,
И всякий, увидав тебя, прославит Бога,
Создавшего такую красоту!
Сергей и Элла были глубоко религиозны. Ещё до женитьбы, во время путешествия по Святой земле Великому князю пришла в голову мысль создать специальное общество, которое бы занималось изучением библейского наследия и ранней историей христианства. Так возникло Императорское Палестинское общество, и Сергей Александрович занял пост его председателя. В задачу общества входило распространение знаний о христианских святынях на Ближнем Востоке и организация паломничеств. Будучи в Иерусалиме, великокняжеская чета посещала многочисленные православные обители, а Елизавету Фёдоровну потрясла удивительная благодать тех мест. Она мечтала быть похороненной на Святой земле, и чудесным образом её желание осуществилось.
Великий князь Сергей Александрович и Великая княгиня Елизавета Фёдоровна. 1892 г.
Сергей и Элла, не имевшие детей, взяли на воспитание своих племянников Марию и Дмитрия. Их отец Павел Александрович женился вторично морганатическим браком и жил за рубежом. Дети остались практически сиротами. Сергей Александрович очень любил их, а после его гибели им много помогала Елизавета Фёдоровна. Особенно она привязалась к Дмитрию, к которому относилась как к сыну.
В 1891 году Александр III назначил брата московским генерал-губернатором. Москва серьёзно беспокоила императора, и необходимо было иметь здесь верного человека, который проводил бы избранный традиционалистский курс. Сергей Александрович как нельзя лучше подходил для этого. Новая должность первоначально испугала его, однако он постарался освоиться на новом, незнакомом месте, вникнуть в суть городских проблем. Исколесил всю Московскую губернию, тщательно ознакомился с самим городом и его структурами, попытался внести в работу городской администрации ясность и чёткость. Педантично входил во все детали городского управления. А чтобы лучше узнать жизнь простых горожан, порой переодевался в неприметный костюм и разгуливал по улицам.