В первый день войны допуск в Кремль немногочисленных экскурсантов с утра был прекращён, а 23 июня по распоряжению коменданта Московского Кремля Николая Кирилловича Спиридонова коллектив музея — директор Н. Н. Захаров, контролёр Н. А. Ефимов, научный работник Н. В. Гордеев, экскурсоводы В. С. Валуев, А. А. Гончарова (Старухина), К. П. Наумова, Е. А. Крестьянникова, реставраторы А. П. Клюйкова, А. Н. Кривцов, зав. учётом М. А. Кирильцева, делопроизводитель О. С. Владимирова, вахтёр и несколько технических сотрудников, уборщиц, приступил к демонтажу экспозиции и упаковке экспонатов Оружейной палаты в ящики. Сначала предполагалось укрыть ценности на территории Кремля — в Тайницкой башне, подклете Благовещенского собора и других зданиях, однако обстановка на фронте ухудшалась, враг стремительно приближался к столице. 30 июня Н. К. Спиридонов принял самостоятельное решение об эвакуации сокровищ на Урал, и директор музея Николай Никитович Захаров в тот же день получил предписание отбыть с наиболее ценными экспонатами из Москвы. Одновременно с ним сопровождали груз А. В. Баянов, Е. А. Ефимов, Н. В. Гордеев, О. С. Владимирова, охрану ценностей осуществляли красноармейцы. В 10 часов вечера три пульмановских вагона с экспонатами отбыли с Северного (Ярославского) вокзала. В ночь на 5 июля они благополучно прибыли в Свердловск. Однако в дороге не обошлось и без происшествий, примерно посередине пути было обнаружено расхождение досок и трещины в полу одного из вагонов. Состав был задержан, пол отремонтировали. Через три дня В. С. Валуев доставил и вторую группу экспонатов, а 10 июля А. А. Старухина (Гончарова) была в Свердловске с последней группой памятников.
Экспонаты были размещены в небольшом помещении (около 154 кв. метров) в здании УНКВД на ул. Ленина, сохранившемся до наших дней. Всего было эвакуировано 75 % экспонатов Оружейной палаты, в залах музея осталась только коллекция экипажей, упаковка и транспортировка которых из-за больших размеров в тех условиях была невозможна. Из-за сложности демонтажа иконостасов не была эвакуирована и большая часть икон из кремлёвских соборов.
С середины июля Москва стала систематически подвергаться массированным бомбардировкам немецкой авиации. Пострадал и Кремль, одевшийся в маскировочные одежды. Золотые купола и кресты храмов были выкрашены тёмной краской, рубиновые звёзды выключены и зачехлены тёмной материей. Царь-колокол был укрыт под настилом досок. На крышах зданий установлены пулемёты, под стенами собора Двенадцати апостолов находились броневики.
Основной задачей для сотрудников Оружейной палаты в Свердловске стало обеспечение безопасного хранения вывезенных из столицы памятников, исключавшего малейшую возможность их хищения. Кстати, во время транспортировки ни одна пломба на ящиках с сокровищами не была сорвана, экспонаты в основном доехали без повреждений. В течение июля все ящики были вскрыты, все экспонаты сверены с поящичными списками. 4 августа Н. Н. Захаров отправил в Кремль рапорт о доставке и размещении предметов, одновременно он просил организовать эвакуацию в Свердловск наиболее ценных икон и экспонатов из соборов, прислать необходимые упаковочные материалы для более тщательной упаковки ценностей. До конца 1941 года условия их хранения были существенно улучшены.
Одним из основных направлений работы музейщиков в эвакуации стало сличение экспонатов с научными описями и материалами Комиссии по проверке деятельности Оружейной палаты 1939–1940 годов. В результате этого кропотливого труда была создана охранная опись Музеев Кремля, до сих пор не утратившая своего значения. Одновременно проводилась реставрация ряда предметов. Так, были приведены в порядок часть трофеев Полтавской битвы, восстановлено коронационное платье императрицы Елизаветы Петровны.
Любопытно отметить, что уже к весне 1942 года, когда на фронтах шли тяжёлые бои и победа была ещё далека, началась подготовка к восстановлению экспозиции после реэвакуации — создание планов работ, макетов и художественных проектов музейных залов и отдельных витрин, текстов экскурсий и так далее. При указании каждого вида работ обязательно отмечалось количество времени, необходимое для их выполнения. Именно эта чёткость и продуманность действий позволила позднее восстановить экспозицию в самые кратчайшие сроки. Несмотря на тяжёлые условия проживания и голод, сотрудники отдавали часть своего заработка в Фонд обороны.
Беспокоясь о сохранности архитектурных памятников и оставшихся в Кремле экспонатов, Захаров, Гордеев, Баянов и Кирильцева несколько раз выезжали в Москву. Оружейная палата с оставшимися в ней экипажами всю войну находилась под присмотром реставратора тканей М. Г. Баклановой и вахтёра Ф. М. Барашкова. Более 700 экспонатов, преимущественно икон, были вывезены Н. Н. Захаровым в Свердловск.