Председателем музея с 1881 по 1905 год был великий князь Сергей Александрович, а его товарищами и фактическими руководителями структуры – А. С. Уваров и И. Е. Забелин. В организационном комитете заседали именитые исследователи В. О. Ключевский, С. М. Соловьев, Д. И. Иловайский. Первые одиннадцать залов повествовали о временах отдаленных, каменном, бронзовом, железном веке и Древней Руси. До 1917 года вновь открытые залы успели довести историю России до XVI века.
В росписи отдельных помещений принимали участие Семирадский, Васнецов, Айвазовский. Генриху Семирадскому заказ сделал лично А. С. Уваров. Чехов проехался катком по полотну Васнецова «Каменный век»: «А его картина, которую он готовит для нашего Исторического музея, до того ужасна, что в могилах ворочаются кости всех живших от начала века до сегодня и волосы седеют даже на половых щетках».