Помимо повседневного руководства весьма обширным «хозяйством» Комитета государственной безопасности СССР, от его председателя требовались и предложения о стратегических направлениях развития его органов и войск, их кадровом обеспечении, материально-техническом оснащении, начиная от новейших ЭВМ (они использовались в аналитических подразделениях КГБ уже в конце 60-х гг.) до самых современных средств вооружения, техники и т. д.
Появление в структуре КГБ новых подразделений было связано с изменениями как в целях, задачах, тактике и содержании разведывательно-подрывной деятельности противника (израильская спецслужба «Натив», например, лишившись «легального» представительства в июне 1967 г. в Москве, должна была изыскивать новые способы проникновения в нашу страну, доступа к охраняемым секретам), в оперативной обстановке в стране и на межгосударственной арене, так и с постановкой руководством Советского Союза перед органами государственной безопасности дополнительных задач.
Реорганизация подразделений КГБ СССР отражала сложную диалектику изменения содержания и тактики скрытого противоборства с умным и изощренным противником, имеющим к тому же практически неограниченные материально-финансовые ресурсы.
13 марта 1969 г. было образовано 15-е управление КГБ СССР, основной задачей которого являлось «обеспечение постоянной готовности к немедленному приему укрываемых (то есть высшего руководства СССР — О. X.), в защищенные пункты (объекты) и создание в них условий, необходимых для нормальной работы в особый период».
В том же году по инициативе Ю. В. Андропова были созданы Научно-исследовательский институт разведывательных проблем (НИРП) и НИИ «Прогноз», в сентябре 1977 г. — Центральный научно-исследовательский институт специальных исследований (ЦНИИСИ). В составе ЦНИИСИ была организована взрывотехническая лаборатория, впоследствии оказавшаяся незаменимой для предотвращения и расследования актов терроризма.
Для Ю. В. Андропова характерным было стремление, не довольствуясь достижениями сегодняшнего дня, попытаться заглянуть в будущее, увидеть его во всей его противоречивости и многогранности, подготовиться к тем угрозам, что могут встать в повестку дня завтра, стремление понять логику и диалектику исторического процесса, закономерности и принципы социальной эволюции. И, на наш взгляд, именно поэтому его характеристики тех или иных событий и процессов звучат вполне актуально и сегодня.
Того же самого — умения заглядывать в будущее — председатель КГБ требовал и от своих подчиненных, требовал от них учить молодую смену и учиться самим.
Андропов считал необходимым осмысление опыта, конкретных задач, форм и методов борьбы с разведывательно-подрывной деятельностью противника, обеспечения государственной безопасности. Это проявлялось как в его отношении к учебным заведениям КГБ СССР, так и собственно к становлению и развитию «чекистской» науки, занимавшейся созданием новых технологий обеспечения безопасности общества и государства — именно такая новая задача была поставлена им в 1975 г.
Необходимо отметить, что «субъективный фактор», связанный с личным отношением руководителя к потребностям и результатам развития науки, в органах КГБ являлся определяющим для судьбы этого направления их деятельности. Несмотря на свою колоссальную занятость текущими повседневными проблемами деятельности Комитета, Андропов просил помощников докладывать ему о наиболее важных и значимых, по их мнению, кандидатских и докторских диссертациях, подготовленных сотрудниками КГБ, знакомился с авторефератами некоторых из них.
Андропов поощрял привлечение не только в чекистскую науку, но и в деятельность оперативных подразделений принципов и методов психологии, социологии, системного анализа и прогностики.
Следующим структурно-организационным изменением в системе КГБ стало преобразование 27 ноября 1970 г. Инспекции при председателе в Инспекторское управление КГБ СССР. Его целью являлась активизация помощи «центра» периферийным органам госбезопасности, повышение уровня и качества их работы, что самым непосредственным образом сказывалось на состоянии оперативной обстановки в стране, результативности работы КГБ в целом.
21 июня 1973 г. было образовано 1 б-е управление КГБ, отвечавшее как за ведение электронной разведки, так и за радиоперехват и дешифровку перехватываемых сообщений. Это подразделение, аналогом которого является небезызвестное ныне Агентство национальной безопасности (АНБ) США, стало важным источником разведывательной и контрразведывательной информации, хотя и уступало многократно по численности сотрудников своему заокеанскому прообразу.