Разместившись в 1885 г. в собственном дворце на набережной реки Мойки, великий князь Алексей Александрович, нарушая все правила и высокие служебные распорядки, вел разгульную веселую жизнь. Тратил напропалую деньги, ухаживал за чужими женами, балеринами, наделяя их богатыми подарками. Они все очень любили великого князя и гордились его вниманием и рыцарским к ним отношением. В полном соответствии с мнением князей, современников Алексея Александровича и представителей высшего столичного общества, великий князь главным образом оставил по себе память не своими достижениями в укреплении и развитии Российского императорского флота, а как заядлый кутила, любитель веселой разгульной жизни, первоклассных обедов и особенно женщин. При этом самый красивый представитель императорской семьи Алексей Александрович действительно пользовался успехом у женщин того времени, несмотря на свои огромные габариты и вес. Правда, великий князь Александр Михайлович, подтверждая подобную характеристику князя Алексея, в своих воспоминаниях уточнял, что в поименном списке его романов «…преобладали весьма верткие дамы».
В свои довольно зрелые годы Алексей Александрович страстно увлекся удивительно привлекательной графиней Зинаидой Дмитриевной Богарне, урожденной Скобелевой – супругой герцога Евгения Максимилиановича Лейхтенбергского, состоявшего в родстве с императорской фамилией.
Влюбленный великий князь Алексей Александрович широко открыл двери своего нового дворца на Мойке герцогу Е.М. Лейхтен бергскому и его супруге графине З.Д. Богарне, которые быстро освоились в роскошных великокняжеских апартаментах, а пассия князя Алексея, Зинаида Дмитриевна, стала чувствовать себя полновластной хозяйкой дворца и вместе с великим князем изволила принимать там даже великих князей и правящую императорскую чету, вызвав у Николая II и императрицы вспышку справедливого негодования и раздражения. Алексей Александрович осыпал красавицу герцогиню неимоверно дорогими подарками, заказывая их в ювелирном доме фирмы Карла Фаберже.
В столице широко распространялись сплетни и слухи о романах великого князя с известными красавицами, а компанию великого князя с кузеном Е.М. Лейхтенбергским и графиней Зинаидой Дмитриевной Богарне в высшем петербургском аристократическом обществе легко окрестили «тройственным союзом» на набережной реки Мойки, или «царственным любовным треугольником». Государственный секретарь А.А. Половцев в своих дневниковых записках, осуждая подобное поведение великого князя и вселившихся в его дворец постояльцев, писал о герцоге Е.М. Лейхтенбергском, как о «…лишенном всякого нравственного чувства негодяе, промышлявшим вместе с женой вымогательством больших денег у великого князя».
После смерти в 1899 г. Зинаиды Дмитриевны Богарне Алексей Александрович до последних дней своей жизни хранил портрет и мраморный бюст любимой женщины. Во дворце на Мойке тогда установились тишина и покой. Великий князь некоторое время пребывал в печали, а затем стал увлекаться актрисами Мариинского и Михайловского театров. Особый интерес для светского общества представила любовная история князя Алексея с довольно бесталанной французской актрисой Мариинского театра Элизой Балеттой, в недавнем прошлом служанкой одного из парижских отелей. Тогдашний директор Императорских театров В.А. Теляковский с горечью отмечал, что: «Балетта была очень плоха, пела фальшиво, танцевала неграциозно и походила не на актрису, а на девку. Проходя по сцене, я наталкивался на разговоры и шушуканье Балетты с Алексеем Александровичем, а Патоцкой с великим князем Николаем Николаевичем. Все это, в конце концов, противно и жаль за театр. В том, что актрисы живут с обожателями, грех не велик, но при сильных обожателях эти бездарные девки портят мне репертуар, и театр обращается в кафешантан». Благодаря протекции генерал-адмирала, Балетта в скором времени все же становится примой с самым высоким гонораром. Великий князь открыто осыпал ее дорогими презентами и ценными ювелирными изделиями фирмы Карла Фаберже. Новую пассию Алексея Александровича теперь именовали «бриллиантовое величество». Ухаживал великий князь и за балериной М.Ф. Кшесинской, которая в своих воспоминаниях отмечала, что: «В сезон 1896/97 годов великие князья Михаил Николаевич, Владимир, Павел и Алексей Александровичи, сложившись, поднесли мне бриллиантовую брошь в форме кольца с четырьмя крупными сапфирами…»