Здание возводилось по проекту тогда еще мало известного молодого архитектора В. Г. Залесского. Он очень органично вписал его в уже существовавшие на южном берегу Москва-реки застройки, не нарушив единого характера архитектуры набережной. Фасады дворца, выполненного из серого камня, были выдержаны в соответствии с эклектическими тенденциями и имели богатый пластический декор, свойственный французской архитектуре XVIII–XIX веков. Двухэтажное здание было расположено в глубине двора и окружено высокой кованой фигурной оградой, на воротах которой красовалась табличка с именем владельца. В центре особняка – мощный ризалит[7] с балконом и парадным крыльцом, от которого идут два пандуса. Венчал его классический антаблимент с широким карнизом и балюстрадой. По обе стороны от главного здания стояли два флигеля, а позади располагались конюшня и конторы.
Внутренние интерьеры особняка были созданы любимым архитектором Павла Ивановича Ф. Шехтелем. Некоторые комнаты, в частности вестибюль и приемные, были им оформлены в стиле французской готики. Отделанные разными породами дерева, они напоминали старинный замок и создавали немного гнетущую атмосферу. Оживляли их различные средневековые символы – фигуры драконов, хищных орлов, гномов и рыцарей, вырезанные искусными ремесленниками мебельной фабрики П. А. Шмита. На первом этаже размещался большой зал-гостиная, служивший столовой. Его главным украшением были великолепный, богато декорированный камин и массивные дубовые буфеты для посуды, покрытые тонкой резьбой в готическом стиле. Рядом с ним находилась богатая библиотека с антресольным этажом. В ее отделке также преобладало дерево: из него были сделаны книжные шкафы, панели с рамами для картин, резные детали на потолке. Из библиотеки можно было выйти в зимний сад, помещение которого было пристроено к главному зданию в 1911 году архитектором М. Гейслером.
Весьма роскошной была картинная галерея, декорированная в стиле Второй империи позолоченной резьбой и зеркалами в золоченых рамах. Она находилась на втором этаже. Ее потолок и картуши над дверями были украшены живописными работами французского художника Франсуа Фламенга, специально приехавшего в 1893 году в Москву по приглашению П. И. Харитоненко. В частности, на живописном плафоне потолка был изображен струнный оркестр, который слушают кавалеры и дамы в одеждах XVIII века. А еще художник написал портрет хозяйки дома, Веры Андреевны (ныне он хранится в Эрмитаже). Рядом с картинной галереей, обращенной окнами на Кремль, находился парадный (танцевальный) Белый зал. Это было самое большое и богатое помещение особняка. Ощущение праздничности и торжественности в нем создавали белые стены и лепной потолок с золотыми деталями и барельефами с изображениями музыкантов и музыкальных инструментов, огромная хрустальная люстра, большие пейзажные полотна Гюбера Роббера, бело-золотистая мебель с египетскими мотивами и наборный паркет из ценных пород дерева с ромбовидным орнаментом. В этом зале выступали знаменитые музыканты А. И. Скрябин и Ф. И. Шаляпин, устраивались домашние спектакли. Вот как вспоминала об этих театрализованных праздниках писательница Т. Аксакова-Сиверс: «В доме Харитоненко я участвовала в двух любительских спектаклях. Оба раза в качестве режиссера был приглашен Иван Михайлович Москвин. Думаю, что хозяевам эти затеи стоили очень дорого, так как иначе вряд ли Москвин согласился бы возиться с 16-летними актерами, не умевшими ни ступить, ни сесть на сцене».
На втором этаже особняка находились также личные апартаменты хозяев. Синяя гостиная принадлежала Вере Андреевне. В ней был готический камин, украшенный резными изображениями средневековых сцен. Рядом с ней располагалась Красная гостиная. За ними следовали спальни, детские, гостевые комнаты, большая ванная комната и помещения для прислуги. В подвале здания находились кухня, кладовые и система отопления. Все помещения особняка, независимо от предназначения, были обставлены очень богато, что указывало скорее на солидное материальное положение его владельца, нежели на наличие у него безупречного вкуса. Известный художник и общественный деятель начала XX столетия князь Сергей Щербатов критически относился к этой демонстрации роскоши Харитоненко: «Я довольно часто бывал у него в роскошном особняке за Москвой-рекой, где все было на широкую ногу, добротно, но довольно безвкусно».