Но пожертвованный думой участок был отнюдь не пустым: там стояло здание бывшей Главной аптеки, которое намеревались при сохранении старых стен перестроить, а внутренний двор сделать крытым по проекту архитектора Ф.Ф. Рихтера. Поразительно, но учредители Исторического музея, ревнители старины, не остановились перед тем, чтобы разрушить старинное строение аптеки, которое было не только замечательно своей архитектурой, но и своей историей. Похоже, что тогда никто и не поднял голос в защиту его, ведь считалось, что петровская архитектура была совсем не русской, а наносным влиянием тленного Запада, и исторические ассоциации, как видно, патриотов не волновали. Только уже позже, в конце XIX столетия, архитектор И.П. Машков спрашивал в своем очерке о здании аптеки: «Было ли описываемое нами здание настолько ветхо, что не могло быть сохранено, как один из немногих памятников древнего русского гражданского зодчества? Мы думаем, судя по фотографиям, что нет, – оно не было ветхо и легко могло быть ремонтировано: остается пожалеть, что такой важный исторический и художественный памятник был уничтожен». Сохранилось лишь несколько фотографий здания перед самым его сносом. Закладка нового состоялась 20 августа 1875 г.
Некоторые искусствоведы считают, что Шервуду «блестяще удалось» связать здание музея с шедеврами древнерусского зодчества, однако непредвзятое сравнение отнюдь не подтверждает этого мнения. Силуэт его сложен, прерывист, состоит из нескольких объемов, что, по мысли автора, должно сближать его с многообъемными русскими деревянными постройками, но, однако, здание получилось жестко симметричным и смотрится тяжелым монолитом. Оно буквально перегружено добротно скопированными деталями русской архитектуры XVII столетия, выполненными из тесаного кирпича, – так, например, только кокошников насчитывают более 15 видов. Надо сказать, что по проекту предполагалось использовать керамическую облицовку, которая покрывала бы многоцветным ковром здание музея – он тогда мог бы выглядеть совсем по-иному. Но, по сути дела, музей остался недостроенным: не хватило денег. Надежды на частные пожертвования не оправдались, и только после того, как казна перед коронацией императора стала финансировать постройку, она стала двигаться к окончанию.
Оформление интерьеров также подчинялось задаче музейного показа: как писал известный археолог В.И. Сизов, «орнаментация музейных зал явится глазам посетителя наглядной и художественной летописью архитектурных и вообще художественных вкусов за все время исторической жизни русского народа». И даже освещенность музейного зала работала на основную идею: так, например, зал Смутного времени, так сказать «темных лет» Московского государства, находился в полумраке.
Но при проектировании упустили из виду то, что музей должен не только показывать, но и хранить исторические реликвии, для которых не сделали вместительных помещений. Правда, тогда никто и не предполагал, что фонды будут исчисляться 4,5 миллиона единиц хранения и 11 миллионами листов документальных материалов.
Главным строителем музея был инженер А.А. Семенов, а отделкой залов занимался архитектор А.П. Попов (впоследствии Н.В. Никитин и П.С. Бойцов). К оформлению привлекли и известных художников – В.М. Васнецова (фриз «Каменный век»), Г.И. Семирадского («Похороны руса в Болгарах Камских» и «Ночные жертвоприношения»), И.К. Айвазовского (панорама древнего Боспора Киммерийского, то есть Керченского пролива).
В дни коронования Александра III, 27 мая 1883 г., было открыто первых 11 залов: тогда музей посетили императорская чета, члены дома Романовых и многочисленные гости коронационных торжеств, а публичное открытие состоялось 2 июня того же года. Вскоре изнурительная, на износ, работа подорвала здоровье графа Алексея Сергеевича Уварова, и он скончался в декабре 1884 г. После него Историческим музеем стал руководить И.Е. Забелин, занимая пост товарища председателя, а им был глава московской администрации, великий князь Сергей Александрович. Он принимал близкое участие в делах музея, дарил в его фонды памятники истории и искусства, посещал выставки, консультировался с Забелиным, при котором музей значительно увеличился. Там создали комнату Достоевского, экспонаты для нее передала вдова писателя, А.П. Бахрушин, П.С. Уварова, П.И. Щукин пожертвовали замечательные коллекции. Последний имел огромную коллекцию различных предметов русской старины и документальных материалов, которую он в 1905 г. передал в Исторический музей.
На протяжении многих лет залы его использовались для съездов и выставок: так, в 1891 г. проходила среднеазиатская выставка, в 1892 г. – археологическая и географическая выставки, через два года – I съезд художников и любителей художеств, в 1899 г., в дни празднования 100-летия поэта, демонстрировалась Пушкинская выставка.