В 1924 году он был послан на учебу в Ленинград в недавно созданную Высшую кавалерийскую школу. Военное образование Жуков завершил на курсах высшего начсостава при Академии им. М. В. Фрунзе, которые он окончил в 1930 году.
В первой половине 1930-х годов Жуков командовал дивизией и корпусом. В это время он заслужил доверие наркома обороны К. Е. Ворошилова и был награжден орденом Ленина.
1 июня 1939 года комдив Жуков был вызван в Москву и назначен командующим 1-й армейской группой советских войск в Монголии — защищать монгольскую границу от посягательства Японии в районе реки Халхин-Гол.
Впервые Жукову были предоставлены неограниченные полномочия при ведении боевых действий. Он обратился к Сталину с предложением первыми перейти в наступление.
Наступление танковых группировок началось 15 августа 1939 года. Они прорвали оборону противника, и уже через трое суток японские войска были окружены и разгромлены. Жуков получил звание Героя Советского Союза, был произведен в генералы армии и назначен на пост командующего Киевским особым военным округом.
В январе 1940 года проводилась военная игра, которая фактически проверяла готовность к наступлению на Германию. «Восточными» войсками руководил командующий Западным округом генерал-полковник танковых войск Д. Павлов. Эти войска представляли Красную армию и должны были наносить удар по Восточной Пруссии. «Западными», то есть условно немецкими войсками, командовал Жуков.
По замыслу игры силы «западных» значительно уступали силам «восточных». Вначале бой развивался в пользу «восточных», которые внезапно прорывали фронт «западных» и окружали их. Но после переброски дополнительных войск из резерва прорыв «восточных» был остановлен, и вскоре они попали в окружение на севере и в центре. Сталину доложили о результатах игры, и он вызвал к себе для разбора всех ее участников.
12 января 1941 года Сталин объявил Жукову, что он назначается начальником Генерального штаба. На этом ранее настаивал Тимошенко, нуждавшийся в поддержке человека, который мог стать его правой рукой в подготовке к предстоящей войне. Сам Жуков не был готов к назначению на эту должность, о чем сказал Сталину. Но тот ответил, что так решило Политбюро.
Уже в начале февраля 1941 года Тимошенко и Жуков предложили Сталину преобразовать округа во фронты, сформировать штабы, начать призыв в войска 800 тысяч человек. Промышленность также должна была увеличить выпуск военной продукции. Но Сталин опасался, что немецкая разведка быстро узнает о начавшейся мобилизации и Гитлер нанесет удар первым.
Уверенные в предстоящем успехе наступления, Тимошенко и Жуков игнорировали сведения военной разведки о скрытом сосредоточении новых немецких войск на западной границе. Уже с февраля 1941 года началась переброска войск вермахта на восток. К концу мая на границе было сосредоточено 170 дивизий.
21 июня Жуков все же добился разрешения Политбюро развернуть в Тернополе штаб Южного фронта во главе с генералом армии И. В. Тюленевым и координировать действия Юго-Западного и Южного фронтов. Вылететь в Тернополь Жуков должен был на следующий день.
22 июня германское правительство объявило войну СССР. Войска вермахта наступали, и советской армии, даже проведя контрудар, не удалось остановить их продвижение. Жуков доложил Сталину об отступлении советских войск в район Минска и Киева. Эти города нельзя было сдавать, напротив, они должны были стать опорными пунктами для проведения контрудара.
28 июня пал Минск, в районе которого была окружена группа советских войск. Верховное командование Красной армией перешло к Сталину, который стал Верховным главнокомандующим.
7 июля началась битва за Киев, куда устремились германские войска группы армий «Юг». 10 июля началось Смоленское сражение, развернувшееся на фронте в 650 километров. И на западе и на юге удалось замедлить продвижение войск противника, а затем заставить его перейти к обороне. Советским войскам было приказано не отступать ни шагу назад и в плен не сдаваться. Жуков подписал приказ № 270 о расстрелах за сдачу в плен или за самовольный уход с позиций. В то же время он доложил Сталину о необходимости отвести большую часть войск Юго-Западного фронта за Днепр. Жуков говорил об опасности ее полного окружения немецкими танковыми группами, а также об организации контрудара на ельнинском направлении, где группы армий «Центр» могли выступить на Москву.
На следующий день Жуков отбыл в район Ельни, где вступил в командование войсками Резервного фронта, которые провели контрудар по войскам врага. Немецкое командование начало постепенный отвод своих войск. Сразу же после окончания операции Жуков был вызван к Сталину, который объявил ему, что назначенный командующим Ленинградским фронтом маршал Ворошилов не справляется со своими обязанностями, поэтому Жукову необходимо вылететь в Ленинград и не допустить его сдачи немцам. Жуков не мог знать, что почти одновременно с его прилетом в Ленинград Гитлер подписал директиву о блокаде города, но не о его штурме.