С апреля 1943 года М.В. Захаров — начальник штаба Резервного фронта, образованного на короткое время и действовавшего в апреле на воронежско-курском направлении. На базе фронта в апреле 1943-го образуется Степной военный округ — резервное формирование Ставки Верховного Главнокомандования. Войска СВО создали оборонительный рубеж Россошное — Белый Колодезь, чтобы не допустить прорыва врага в восточном направлении. В июле округ переименовали в Степной фронт.
С июля по октябрь 1943 года М.В. Захаров — начальник штаба Степного фронта. Войска фронта сражались на белгородско-харьковском направлении, вместе с Воронежским фронтом отбросили врага (июль), прорвали его многополосную оборону и в ходе Белгородско-Харьковской операции освободили Белгород (5 августа), Харьков (23 августа). Фронт участвовал в битве за Днепр, форсировал его (сентябрь), вел тяжелые бои за расширение плацдарма на правом берегу, затем перешел в наступление и сокрушил оборонительный рубеж врага «Восточный вал» (октябрь). 20 октября 1943-го СФ переименовали во 2-й Украинский.
В октябре — июне 1943 года генерал Захаров возглавлял штаб 2-го Украинского фронта. Продолжая наступление, войска фронта расширили днепровский плацдарм, вышли к Кировограду и Кривому Рогу, в январе — апреле 1944-го освободили значительную часть Правобережной Украины, Молдавии и вошли на территорию Румынии. Фронт участвовал в Ясско-Кишиневской операции (август), проводил Дебреценскую операцию (октябрь). 2-й и 3-й Украинские фронты осуществили Будапештскую операцию, в ходе которой (декабрь 1943 — февраль 1945) была разгромлена 188-тысячная группировка противника, освобожден Будапешт. Затем войска 2-го Украинского фронта вступили на территорию Чехословакии. Указом Президиума Верховного Совета СССР учреждена медаль «За взятие Будапешта», 79 частей и соединений, участвовавших в операции, получили почетное наименование «Будапештские». В марте — апреле вместе с 3-м УФ войска фронта завершили освобождение Венгрии, освободили значительную часть Чехословакии, восточные районы Австрии и ее столицу Вену. В мае вместе с 1-м и 4-м УФ полностью освободили Чехословакию и 10 мая встретились с американцами. 10 июня 2-й УФ расформирован, на базе управления фронта создается Одесский военный округ.
С июля по октябрь 1945 года М.В. Захаров занимал пост начальника штаба Забайкальского фронта. Войска фронта в августе 1945-го участвовали в разгроме Квантунской армии Японии. Пройдя безводные степи Внутренней Монголии, войска прорвали приграничные укрепрайоны, преодолели хребет Большой Хинган и вышли к Чжанбэю, Чифыну, Мукдену и Цицикару. 2 сентября был подписан акт о безоговорочной капитуляции Японии. Позднее советские войска занимались разоружением и приемом капитулировавших японских военных. 10 сентября фронт был расформирован.А за два дня до этого Матвею Васильевичу присвоили звание Героя Советского Союза.
В сентябре 1945 — январе 1949 года М.В. Захаров был начальником Высшей военной академии (так в 1942–1958 годах называлась Военная академия Генерального штаба). В официальной истории академии по этому поводу сказано: «Возглавив Высшую военную академию. М.В. Захаров сумел в короткий срок перестроить учебный процесс и военно-научную работу в соответствии с новыми требованиями и обеспечить выполнение тех огромных задач, которые партия и правительство поставили перед академией. Этому во многом способствовало укомплектование профессорско-преподавательского состава академии хорошо подготовленными генералами и старшими офицерами — участниками Великой Отечественной войны, имевшими опыт командования объединениями и соединениями и работы на руководящих должностях в крупных штабах». Активно занимался Матвей Васильевич и научной работой. «За время пребывания в академии, — пишет Б. Грязнов, — М.В. Захаровым было написано немало научных трудов по вопросам тактики современного боя, организации полевого штаба, управления войсками». Высшая аттестационная комиссия Министерства высшего образования СССР присвоила ему в 1948 году звание профессора по кафедре оперативного искусства.
Когда военная разведка в январе 1949-го вышла из состава Комитета информации при Совете министров СССР и вновь стала структурным подразделением Генерального штаба, начальником ГРУ ГШ — заместителем начальника ГШ ВС СССР назначили Матвея Васильевича Захарова. После ГРУ Захаров был главным инспектором Советской армии (июнь 1952 — май 1953), командующим войсками Ленинградского военного округа (май 1953 — ноябрь 1957), главнокомандующим Группы Советских войск в Германии (ноябрь 1957 — апрель 1960).