Приняв дела, Миллер был вынужден констатировать, что похищение Кутепова нанесло РОВСу сильный удар. От боевой организации не осталось почти ничего, так как основная часть боевиков погибла в вылазках на территорию СССР, а оставшиеся были деморализованы разоблачением «Треста» и похищением Кутепова. Единственной действующей боевой единицей была группа боевиков в Чехословакии, которую возглавлял генерал-майор В. Харжевский, тесно сотрудничавший со 2-м отделом польского генштаба. Однако и там не все обстояло благополучно, из-за чего начальник русской секции 2-го отдела полковник Р. Врага несколько раз беседовал с Миллером, указывая на недостатки в работе Харжевского.
Понимая, что неудачи Кутепова были связаны с отсутствием у него опыта конспиративной работы, Миллер первым делом организовал при РОВСе в октябре 1930 года небольшой контрразведывательный отдел. Его начальником стал генерал-майор К. Глобачев, в свое время окончивший Николаевскую академию Генерального штаба по второму разряду и в период Первой мировой войны занимавший посты начальника Охранного отделения в Варшаве и Петрограде. Что же касается тайной деятельности на территории СССР, то Миллер, продолжая генеральную линию Кутепова, перенес основные усилия на создание хорошо законспирированных подпольных ячеек, которые в нужный момент могли бы возглавить вооруженное восстание. Секретную (особую) работу против СССР по предложению Миллера возглавил генерал от кавалерии А. М. Драгомиров, официально занимающий должность генерала для поручений. Специальные курсы по подготовке агентов для заброски в СССР, на которых боевиков обучали стрельбе, изготовлению взрывчатых веществ и т. д., действовали в Париже, Софии и Праге.
В 1934 году при РОВСе была создана организация «Белая идея», задачей которой была нелегальная заброска на территорию СССР террористических и разведывательных групп через Финляндию (ранее, в 1931 году в СССР были заброшены бывшие офицеры Потто и Потехин, арестованные чекистами благодаря сведениям, полученным парижской резидентурой ИНО ОГПУ, и хорошей работе контрразведки). Руководил организацией капитан Ларионов, который лично отобрал первые 20 человек, прошедших спецподготовку для успешной работы в Советском Союзе. В том же году первые два боевика, Прилуцкий и Насонов, были заброшены в СССР. Однако под Ленинградом их обнаружили и только чудом им удалось вырваться в Финляндию. Но еще двое, Дмитриев и Богданович, в том же году не вернулись из СССР, так как были обезврежены чекистами. Этим активная деятельность организации Ларионова, которого позднее сменил Носанов, и ограничилась, хотя, например, подполковник Николай Зуев до 1938 года четырежды побывал на советской территории и каждый раз благополучно возвращался обратно.
Впрочем, разведывательные возможности Миллера были действительно невелики. И прежде всего из-за ограниченных финансовых ресурсов. Дело в том, что основные денежные средства РОВСа по совету брата Миллера — Карла, бывшего торгового агента в Токио, были вложены в предприятия шведского спичечного короля Ивара Крейгера, считавшегося весьма солидным финансистом. Но на самом деле Крейгер оказался обыкновенным аферистом и строителем финансовых «пирамид», этаким Мавроди начала XX века. И в 1932 году его империя лопнула, а сам он 12 марта застрелился в спальне своей роскошной квартиры на улице Виктора-Эммануила Третьего в Париже. В результате РОВС оказался разоренным — его потери составили 7 миллионов франков.
Кроме того, спецслужбы европейских государств после разоблачения «Треста» и похищения Кутепова скептически относились к возможностям РОВСа и всячески уклонялись от контактов с ним. По этим причинам, как уже говорилось, Миллер был вынужден ограничиться только разведывательной деятельностью, да и то в незначительных размерах.
Другим важным обстоятельством было то, что Миллер в отличие от своих предшественников Врангеля и Кутепова был мало известен и не пользовался популярностью и авторитетом у белой эмиграции, а кроме того, у него не было ясной политической программы. Из-за этого в рядах РОВСа со временем стали возникать склоки и противоречия.
Все это вместе взятое значительно ослабило Союз, но, несмотря на испытываемые трудности, он продолжал оставаться крупнейшей эмигрантской организацией, потенциально опасной для Москвы, особенно в случае военных конфликтов с западными странами. Поэтому РОВС и его председатель по-прежнему находились под пристальным вниманием советских спецслужб, которые настойчиво внедряли в его ряды свою агентуру. Одним из наиболее важных агентов был генерал-майор Николай Скоблин.