Особенно выдающимися руководителями госбезопасности были, несомненно, Дзержинский, Берия, Серов и Андропов. Характерным для Юрия Владимировича стало унаследованное от Сталина и Берии недоверие к односторонним источникам информации, получаемой от спецслужб. Поэтому Андропов, освоившись на Лубянке, создал собственную разведку, которая функционировала внутри внешней разведки (ПГУ КГБ) с опорой на Торгово-промышленную палату и МИД.
Считалось, что руководил этой разведкой генерал КГБ Евгений Питовранов, который начал работать в советских спецслужбах (НКВД) в ноябре 1938 года. В феврале 1941 года 25-летний Питовранов уже возглавил управление НКВД по Горьковской области и в годы войны успешно разоблачал «шпионов» и «диверсантов».
С 1946 по 1950 год Питовранов был заместителем министра госбезопасности СССР Виктора Абакумова, но в декабре 1950 года его назначили начальником контрразведки МГБ. В июле 1951 года Абакумов был арестован по обвинению в сионистском заговоре, а 29 октября был арестован и Питовранов.
На следствии он оговорил Абакумова во всех смертных грехах, но, чтобы спасти себя, написал Сталину, который за несколько месяцев до этого вызывал его к себе. Он убеждал вождя, что для борьбы с «сионистским заговором» необходимо создать агентурную сеть для систематического выявления врагов народа и вредителей среди евреев. Сталину его идея понравилась.
2 ноября 1952 года Питовранов был освобожден из заключения, а в январе 1953 года назначен заместителем начальника Первого главного управления МГБ (внешняя разведка). С мая 1953 года по 1957 год он был куратором Министерства безопасности ГДР. Роль Питовранова в событиях, связанных с антисоветским восстанием в ГДР в июне 1953 года, неизвестна.
Там он благополучно пережил самый опасный период после смерти Сталина, когда были арестованы и расстреляны его бывшие шефы — Абакумов и Берия, а десятки генералов и приближенных этих руководителей органов госбезопасности были арестованы или уволены.
В ГДР он находился до 1957 года. Работая в контакте с коллегами из Штази и привлекая к своей деятельности бывших кадровых сотрудников СД, он сделал большие успехи, переманил в ГДР первого руководителя спецслужб ФРГ Отто Йона.
В 1957 году первый председатель КГБ Серов отозвал Питовранова из ГДР и назначил начальником Четвертого управления КГБ, занимавшегося борьбой с антисоветскими элементами. Питовранов убедил Серова, что слишком большая сеть осведомителей неэффективна, и освободил их от официальных обязательств, предоставив право добровольно сотрудничать с КГБ, одним из них, по утверждениям Жирнова и Фельштинского, был поэт Евтушенко.
Таким образом, штат осведомителей стал личной агентурой самого Питовранова, но не надолго. В 1960 году новый председатель КГБ Шелепин расформировал Четвертое управление, а Питовранова отправил в двухгодичную командировку в Китай. После возвращения оттуда Семичастный, сменивший Шелепина, назначил Питовранова начальником Высшей школы КГБ. Но в 1966 году, под предлогом 50-летия, его отправили в отставку на почетную работу заместителем председателя ТПП.
Питовранова принято считать наставником начальника Пятого управления КГБ Бобкова, Примакова и даже Андропова. Андропов в 1967 году сделал его личным главным советником председателя КГБ.
В 1969 году Юрий Владимирович предложил опытному Питовранову создать и возглавить секретный отдел «П», который должен был заниматься вербовкой западных бизнесменов, близких к правящим кругам своих стран. Идея создания агентурной сети из бизнесменов пришла ему в голову во время работы в Германии, скорее всего на основе практики коллег из «Штази», которые в этом оказались более эффективными, чем разведка КГБ.
Отдел «П» в действительности являлся спецрезидентурой КГБ, подчинявшейся лично Андропову, и в узком кругу осведомленных о его деятельности именовался «Фирмой».
Удачным прикрытием для создания агентурной сети среди западных бизнесменов и политиков для Питовранова стала его 15-летняя работа в Торгово-промышленной палате СССР. Среди добытых материалов было и разоблачение советского дипломата (возможно, Шеварднадзе), который работал на США. Но Брежнев не поверил и заниматься этим запретил, потому что не только он. но и сам Андропов покровительствовали Шеварднадзе.
Питовранов позже рассказывал, что отдел «П» занимался секретными военными разработками, в том числе способами доставки малогабаритных атомных зарядов на морских судах, замаскированных под мирные.
Существуют различные версии ликвидации отдела «П». Питовранов считал, что Крючков, возглавлявший Первое главное управление КГБ, подозрительно относился к деятельности отдела, дублировавшего его функции. Поэтому Питовранов вынужден был согласиться, чтобы в отдел на должность первого заместителя взяли протеже Крючкова — Николая Кутергина. который был допущен к оперативным разработкам.