По указанию Центра «Вардо» восстановила конспиративную связь с особо ценным источником разведки, гауптштурмфюрером СС «Брайтенбахом» (в миру — Вильгельм Леман). В IV управлении Имперской безопасности — гестапо — он возглавлял отдел по борьбе с «коммунистическим шпионажем» и, используя свое служебное положение, неоднократно спасал резидентуру НКВД от разгрома и заранее предупреждал о провокациях, которые готовились против советского дипломатического представительства и его сотрудников в Берлине. От «Брайтенбаха» регулярно поступала информация о внутриполитическом положении в Германии и ее военных приготовлениях против соседних стран. В 1935 году агент представил сведения о создании Вернером фон Брауном принципиально нового вида оружия — знаменитых ракет «Фау». Тринадцать лет «Брайтенбах» водил за нос коллег из гестапо, которые сбились с ног в поисках «крота» в своих рядах. Провал произошел из-за предательства связника, и в 1945 году Лемана казнили в застенках его (жгуче ненавистного!) ведомства. На Западе его считают прототипом Штирлица.
Еще одним особо ценным помощником нелегальной резидентуры, который находился на личной связи у «Вардо», был высокопоставленный сотрудник германского МИДа в ранге посла «Вальтера» (имя не раскрывается до сих пор). В будущем «Вальтер» наряду с «Брайтенбахом» проинформирует берлинскую резидентуру о подготовленном нападении Германии на СССР.
В Берлине «Вардо» также восстановила связь с «Ханум», бывшей стенографисткой германского посольства в Париже, которую завербовала, работая во Франции. «Ханум» продвинулась по службе и, работая в центральном аппарате гитлеровского МИДа, имела доступ к документам под грифом «Особой важности», которые с риском быть казненной копировала и затем передавала своему оператору — «Вардо». Но вскоре «Ханум» заболела и умерла.
Елизавета Юльевна немедленно подобрала ей замену. Через агентурные возможности резидентуры осуществила проверку «кандидата на замещение вакантной должности» и под псевдонимом «Винтерфельд» привлекла служащего МИДа Германии средней руки к сотрудничеству. Новобранец имел доступ к секретной, в том числе шифрованной, переписке министра иностранных дел фон Риббентропа с послами в странах-союзницах — Италии и Японии. «Вардо» обучила немца технике пересъемки документов микрофотоаппаратом, и вскоре он буквально завалил резидентуру копиями шифртелеграмм и других документов из германского внешнеполитического ведомства. Среди действующих «штыков» агентурной сети нелегальной резидентуры Зарубиных были и те, кто имел связи в кругу влиятельных функционеров нацистской партии (НСДАП).
В июне 1937 года Зарубины в качестве нелегалов были направлены в США. Разведчикам предстояло подобрать агентуру из числа американцев для возможной работы в Германии в случае ее нападения на СССР. С поставленной задачей разведчики справились. Ими были завербованы три агента, которых в дальнейшем нелегальная разведка использовала в качестве курьеров-связников.
Командировка Зарубиных была прервана бегством в США резидента НКВД в Испании Александра Орлова, который встречался с ними во время их работы во Франции. По возвращении в Москву Василий и Елизавета стали работать в центральном аппарате разведки. Зарубин за успешную работу в нелегальной разведке был награжден орденом Красного Знамени, ему было присвоено звание старшего майора госбезопасности, равноценное званию генерал-майора Красной армии. «Вардо» досрочно присвоили звание капитана госбезопасности, что соответствовало званию подполковника Красной армии.
В середине 1940 года «Вардо» вновь выехала в Германию, но уже под дипломатическим прикрытием сотрудника советского посольства в Берлине Елизаветы Горской. Ей предстояло восстановить утраченную связь с ценным источником разведки «Августой» — супругой высокопоставленного дипломата, посла по особым поручениям, одного из тех, кто был причастен к выработке внешнеполитического курса гитлеровской Германии. Вскоре от «Августы» стали поступать сведения, заслуживающие внимания не только ОГПУ, но даже Кремля!
С первых часов войны все советские работники диппредставительства в Германии были интернированы и 29 июня отправлены в СССР через Турцию.
Ночью 12 октября 1941 года Зарубиных подняли с постели и доставили в Кремль к Сталину. Вождь объявил чекистскому тандему о своем решении вновь направить их в Соединенные Штаты, а Василия Михайловича и вовсе назначить главой тамошней «легальной резидентуры», то есть действующей с позиций посольства СССР в Вашингтоне. Прикрытием Зарубина была должность 2-го секретаря диппредставительства. В ходе общения, продолжавшегося более часа, Сталин поставил задачу будущему резиденту не только отслеживать внутриполитические события, но и своевременно сообщать о попытках правящих кругов США сговориться с Гитлером и закончить войну заключением сепаратного мира. Разведчикам также вменялось в обязанность добыть сведения относительно реальных сроков открытия Второго фронта в Европе.