В августе 1897 года был утверждён штат музея. У истоков музея стояли люди хорошо образованные, зачастую окончившие не одно высшее учебное заведение — учёные, искусствоведы, историки, этнографы, археологи, архитекторы: Д. И. Толстой (назначенный в 1901 году на должность Товарища Управляющего Русским Музеем), А. Н. Бенуа, П. А. Брюллов, П. И. Нерадовский, Н. П. Сычёв, П. И. Столпянский, М. П. Боткин, А. А. Миллер, Н. Н. Пунин и многие другие. Образовательный ценз сотрудника Русского музея был очень высок, поэтому кандидатура каждого вновь поступающего на работу серьёзно обсуждалась — это был своего рода конкурс. В одной из объяснительных записок к проекту Положения о музее сказано: «…при организации Музея нужно иметь в виду непременное требование, чтобы служба в таком чудном учреждении почиталась величайшей честью, и чтобы к ней стремились именно из-за чести быть причастным к музею».
Конечно, работа крупнейших искусствоведов и музейных деятелей, реставраторов и архитекторов способствовала прославлению Русского музея. Тем не менее существовал институт простых служащих. Для исполнения разного рода служебных обязанностей в Русском Музее Императора Александра III имелся штат вольнонаёмных служителей, которые находились в распоряжении заведующего зданиями музея (он же — секретарь Августейшего Управляющего музеем). В состав служителей музея в феврале 1898 года входили вахтёры, галерейные служители, часовые, швейцары, церковный сторож, а также рабочие разных специальностей (столяр, слесарь, кочегар, маляр, печник, садовник и т. п.). Все они были подчинены определённой иерархии, имели свои обязанности, сформулированные в «Правилах служащих музея» (1897), и специально разработанную форму.
7 (19) марта 1898 года состоялось торжественное открытие «Русского Музея Императора Александра III» для посетителей.
В день открытия музея экспозиция его была представлена в 37 залах (21 зал — на первом этаже и 16 — на втором). Первые посетители могли познакомиться с «Музеем христианских древностей», занимавшим 4 зала, с «Плащаницей» В. Васнецова, произведениями русской живописи и скульптуры, а также с коллекциями частных собирателей, переданными в дар вновь учреждённому музею (коллекция акварелей княгини М. Тенишевой и коллекция живописи и гравюр князя В. Лобанова-Ростовского).
Собрание музея, основой которого служили предметы и произведения, переданные из императорских дворцов, из Эрмитажа и Академии художеств, в этот период насчитывало 1880 произведений. Согласно первоначальной структуре музей имел три отдела:
• отдел, «посвящённый специально памяти Императора Александра III»,
• этнографический и художественно-промышленный отдел,
• художественный отдел.
Причём приоритетная роль художественного отдела оговаривалась особо: «…до составления этнографических и исторических коллекции подлежит немедленному устройству художественный отдел музея, долженствующий обнимать собрание картин и статуй лучших русских художников».
Памятный отдел являлся мемориальным и должен был занять важное место в структуре музея. Однако строительство помещения для Памятного отдела затянулось, и в связи с последующими историко-политическими событиями в стране он так и не был открыт. Сформированный вместо него историко-бытовой отдел в 1934 году был частично передан Эрмитажу и лёг в основу отдела русской культуры этого музея.
Этнографический отдел просуществовал в составе Русского музея до 1934 года, когда он был выделен в самостоятельный Государственный музей этнографии народов СССР.
Таким образом, название «Русский музей» изначально и традиционно закрепилось, по существу, лишь за художественным отделом, размещённым в Михайловском дворце. С течением времени художественный отдел, постепенно разветвляясь, превратился в сложный музейный организм, насчитывающий в настоящее время около 50 отделов, секторов, подразделений и служб.