В 1928 году Зоя вышла замуж за партийного работника и переехала к нему в Москву. Стала работать машинисткой в транспортном отделе ОГПУ. Там она встретилась с известным разведчиком Иваном Дмитриевичем Чичаевым, работавшим в ИНО (внешняя разведка). Он предложил поездку на работу в Харбин по линии Союзнефти. С этой целью Зою Ивановну устроили заместителем заведующего секретной частью в Союзнефть, где она проработала до мая 1930 года и прошла специальную подготовку для разведывательной работы. С этого момента Зоя и приобщилась к разведывательной профессии.
С мая 1930 по март 1932 года Зоя Ивановна проходила в Китае под руководством опытных разведчиков свою первую разведывательную практику. Она выполняла ответственные задания центра во время острейшей борьбы на КВЖД.
Руководители в харбинской резидентуре внешней разведки отмечали ее активное стремление освоить методы разведывательной работы, инициативу и проницательность при выполнении оперативных поручений, быстрый ум и хладнокровие. Главным ее качеством, так необходимым в разведке, была способность находить подходы к нужным для разведки людям, располагать их к себе и завоевывать доверие.
Эти качества плюс привлекательная внешность, обаяние и уже приобретенный опыт Зои Ивановны дали повод привлечь ее к нелегальной работе. К тому времени Зоя уже развелась с мужем.
Ее направили в Берлин для изучения немецкого языка и подготовки легенды для роли немки австрийского происхождения. Перед выездом в Германию она съездила в Латвию для закрепления легенды. В облике знатной баронессы, роскошно одетая, прогуливалась она по улицам Риги, появлялась в городках и поместьях старой Латвии.
За время проживания в Германии в немецких семьях она дважды посетила Австрию для подбора мест проживания и изучения австрийского диалекта немецкого языка. Когда Зоя Ивановна уезжала в Германию, она не знала, к чему ее готовят, но чувствовала: к выполнению какого-то особого задания.
По завершении пребывания в Берлине ее вызвали к руководству ИНО. Все стало ясно. Характерен диалог, состоявшийся между нею и начальником, который изложил ей задание:
Задание отменили, сказав, что она нужна ИНО живая.
Была сделана еще одна попытка сделать из нее нелегала. Ей поручили, взяв латышский паспорт, поехать в Вену. Там выйти замуж за иностранца, фиктивно. Затем выехать с ним в Турцию, еще по дороге туда «поссориться» с мужем и расстаться с ним. Приехав в Турцию, организовать «Салон красоты» для ведения под его прикрытием разведывательной работы. Она согласилась.
Но судьбе было угодно, чтобы Зоя Ивановна выехала в Вену и, напрасно прождав там «фиктивного» мужа, вернулась домой.
С высоты сегодняшнего дня вся эта комбинация вызывает только улыбку. Но в начале 30-х годов режим въезда-выезда во многих странах был совсем другим. Тогда можно было вполне безопасно разъезжать с любым паспортом, даже не зная языка якобы родной по паспорту страны.
На этих двух эпизодах и закончилось соприкосновение Зои Ивановны с нелегальной разведкой. В дальнейшем этот приобретенный, хотя и короткий, опыт оказался очень полезным, когда ей довелось проводить с позиции легальной резидентуры встречи с нелегалами в Финляндии и Норвегии. По возвращении с «нелегалки» Зоя Ивановна два года работала в Ленинграде уполномоченным ИНО, занимаясь странами Прибалтики.
В 1935 году она выехала в Финляндию для работы там в легальной резидентуре, находясь под прикрытием отдела Интуриста. Началась ее полноценная разведывательная работа, которая вскоре совпала с нараставшим напряжением в Европе из-за агрессивных действий фашистской Германии, которая все больше втягивала Финляндию в свой экспансионистский курс.
В 1936 году в Финляндию был направлен на должность резидента полковник Борис Аркадьевич Ярцев (Рыбкин), Зоя Ивановна была заместителем резидента. Они подружились, решали дружно все более осложнявшиеся разведывательные задачи в связи с нараставшим проникновением в Финляндию немцев, привыкли друг к другу и через полгода стали супругами.
Начинал просматриваться замысел немцев по подготовке в Финляндии плацдарма для будущего нападения Германии на Советский Союз.