Клаус Фукс в июне 1945 г. передал детальное описание плутониевой бомбы, но Харитон и его сотрудники стремились проверить все сами, потому что не могли быть полностью уверены в достоверности полученных сведений. Для изучения метода имплозии они должны были выполнить многократные эксперименты с высокоэффективными взрывчатыми материалами, а этого нельзя было сделать в Лаборатории № 2, расположенной на окраине Москвы. Поэтому Курчатов решил организовать филиал Лаборатории в местности, достаточно отдаленной от Москвы, с тем, чтобы там можно было заняться работами по проектированию и изготовлению бомбы. Возглавил новую организацию Харитон, при этом он не пожелал возложить на себя обязанности по административному руководству, чтобы не упускать возможность полностью сконцентрироваться на решении научных и технических задач. По совету Курчатова он обратился к Берии, который выразил согласие назначить инженера на должность административного директора новой организации, оставив за Харитоном обязанности главного конструктора и научного руководителя. Выбор Берии пал на генерала П. М. Зернова — заместителя народного комиссара танковой промышленности, во время войны он способствовал организации массового производства танков. Зернову в то время исполнилось 40 лет, он был всего на год моложе Харитона. До этого он и Харитон не знали друг друга, но теперь между ними установились хорошие деловые отношения.
Ванников предложил Зернову и Харитону осмотреть некоторые заводы по производству боеприпасов— в поисках подходящего места для размещения новой организации, которая позднее стала известна как КБ-11. В апреле 1946 г. Харитон и Зернов побывали в небольшом поселке Сарове, расположенном в 400 км к востоку от Москвы, на границе Горьковской области и Мордовской автономной республики. Население Сарова составляло 2–3 тысячи человек; там имелась небольшая фабрика, выпускавшая в годы войны снаряды для ракетных артиллерийских установок «катюша». Существенным преимуществом Сарова было то, что этот поселок располагался на краю большого лесного заказника; это позволяло расширять площади для проведения работ; к тому же это было необычайно красивое место. Оно располагалось в достаточном удалении от основных путей сообщения, что было важно сточки зрения секретности, но было и не слишком далеко от Москвы. Харитон и Зернов решили, что это идеальное место. Город, или, если его назвать более точно, хорошо охраняемая зона, в которую входил и сам город, и исследовательские и конструкторские организации, стал известен как Арзамас-16 — по городу Арзамасу, расположенному в 60 км севернее. Иногда его называли «Волжское бюро», а также, по понятным причинам, Лос-Арзамасом.
В центре Сарова находились остатки православного монастыря, расцвет которого приходился на XVIII и XIX века. Причисленный к лику святых Серафим Саровский, известный своим аскетизмом и благодеяниями, жил здесь около 50 лет, вплоть до своей смерти, последовавшей в 1833 г. В 1903 г. царь Николай II и его жена Александра прибыли в Саров вместе с десятками тысяч людей на церемонию канонизации Серафима. Николай и Александра, у которых было четыре дочери, молились о сыне и наследнике. Их молитва была услышана, и в следующем году родился царевич Алексей. Саровский монастырь, где жило 300 монахов, был закрыт коммунистами в 1927 г. Когда Харитон и его группа приехали в Саров, там еще сохранилось несколько церквей вместе со строениями, в которых находились кельи монахов. Именно в этих кельях и были оборудованы первые лаборатории. Заключенные из располагавшегося неподалеку исправительно-трудового лагеря построили новые лабораторные корпуса и жилые дома.
В отличие от обитателей «архипелага ГУЛАГ», ученым и инженерам, жившим в «белом архипелаге», были обеспечены привилегированные условия жизни. Они были по мере возможности защищены от ужасных экономических условий, в которых жила разоренная войной страна. Арзамас-16, в сравнении с полуголодной Москвой, представлялся просто раем. Ученые и инженеры, как пишет один из участников работ в Арзамасе-16 Альтшулер, «жили очень хорошо… Ведущим сотрудникам платили очень большую по тем временам зарплату. Никакой нужды наши семьи не испытывали. И снабжение было совсем другое. Так что все материальные вопросы сразу же были сняты». Лазарь Каганович, член Политбюро, выражал в 1953 г. недовольство тем, что атомные города казались «курортами».
Однако создание подобных условий отражало уверенность Сталина в том, что советские ученые смогут овладеть достижениями зарубежной науки, если они получат «соответствующую помощь». Наряду с имевшимися привилегиями работа ученых-ядерщиков проходила в обстановке строгой секретности и строжайшего контроля со стороны органов безопасности. Разумеется, они могли говорить о своей работе только с теми, кто был к ней допущен, и не могли ничего публиковать о производимых в СССР работах по созданию атомной бомбы.