К началу 1612 года основное ядро второго ополчения было сформировано. В него вошли нижегородцы, смоляне, дорогобужане, балахнинцы, гороховчане, казанцы и муромцы. В окрестные города были отправлены грамоты следующего содержания:
Вскоре на этот призыв откликнулся воевода Коломны В. Е. Сукин и прибыл со своим отрядом. По просьбе жителей от ставленников первого ополчения были очищены Кострома, Суздаль и Муром. К новому ополчению примкнули также калужане, каширцы, туляки, рязанцы, серпуховчане, тверичи, жители Старицы и Ржева. В Нижний Новгород из подмосковного лагеря бежали такие видные воеводы, как М. А. Вельяминов, И. Погожий, Д. М. Черкасский, П. И. Мансуров, И. Ф. Троекуров. Из Москвы прибыли князья С. В. Прозоровский, И. П. Пронский и А. М. Львов и многие другие представители знати. Это. свидетельствовало об авторитете нижегородцев во всей стране.
Желая обеспечить надежность тылов, Д. М. Пожарский отправил отряды в Пошехонье, Углич и Калязин, чтобы привести местных жителей к присяге. Каждый должен был дать клятву верности: «Стоять за один и быть в совете за общее дело».
Когда к марту 1612 года численность ополченческого войска достигла 3000 человек, было решено выступить в поход. Наиболее безопасным представлялось двигаться по Волге — через Кострому к Ярославлю. Далее шел прямой путь к столице через Ростов, Переславль-Залесский и Троице-Сергиев монастырь.
В подмосковном лагере также стало известно о походе нижегородцев. Трубецкой воспринял это с радостью, поскольку понимал, что у первого ополчения слишком мало сил для освобождения Москвы от интервентов. Заруцкий же решил помешать второму ополчению и отправил большой отряд под командованием А. Просовецкого для захвата Ярославля. Горожане вовремя об этом узнали и послали гонцов к Пожарскому. Тот тут же выслал конный полк под началом своего родственника Д. П. Пожарского по прозвищу Лопата.
В итоге казакам не удалось захватить стратегически важный город. В Ярославль вскоре прибыли основные силы второго ополчения и организовали ставку. Сюда из северных городов стало подтягиваться подкрепление, привозились продовольствие, боеприпасы и доставлялись деньги, которые жертвовали богатые люди, в частности промышленники Строгановы. Вскоре в Ярославле оказалась и икона Казанской Божией Матери, которую везли назад в Казань. Для второго ополчения она стала священным символом и главной покровительницей.
В апреле Пожарский получил грамоту от троицких старцев, в которой те призывали его войти в соединение с Д. Т. Трубецким. По утверждению монахов, главный воевода первого ополчения целовал крест Псковскому вору под давлением казаков и находится «в утеснении» от Заруцкого. В заключение старцы просили воевод второго ополчения поскорее двинуться к Москве, пока из-за розни освободительное движение не ослабеет окончательно.
Действительно, Трубецкой вскоре осознал, что присяга Псковскому вору — большая ошибка. Он приказал провести расследование новой самозванческой авантюры и выяснил, что именем Дмитрия назвался некий Сидорка — служитель одной из московских церквей. Воеводы Иван-города и Пскова помогли ему перевоплотиться в «царя Дмитрия». Узнав об этом, Дмитрий Тимофеевич приказал арестовать обманщика и привезти его в подмосковный лагерь. Там он был посажен на цепь для всеобщего обозрения. После воцарения Михаила Федоровича Сидорку казнили.
Выбор кандидатуры будущего царя был очень важен и для руководителей второго ополчения, ведь московские бояре постоянно называли их мятежниками и крамольниками, выступавшими против законной власти. В начале апреля 1612 года по приказу Пожарского по городам была разослана грамота, в которой писалось о том, что без государя страна может прийти в «конечное разорение», без него трудно бороться с интервентами и невозможно сноситься с окрестными странами. Вопрос о новом царе следовало решить как можно скорее. Для этого необходимо была прислать в Ярославль от каждого города по два человека для общего совета. Кроме того, Пожарский просил горожан написать в полки, стоявшие под Москвой, о том, чтобы «воинские люди отстали от Псковского вора Сидорки и не чинили с новым ополчением розни».