В ночь с 21 на 22 июня 1941 года А. М. Василевский, как и все остальные сотрудники Генерального штаба, был на своем рабочем месте. Знали: генералы Г. К. Жуков и Н. Ф. Ватутин вместе с наркомом обороны маршалом С. К. Тимошенко поехали в Кремль докладывать Сталину последнюю информацию.
В первом часу ночи заместитель начальника Генерального штаба Н. Ф. Ватутин вернулся и приказал передать в войска директиву о возможном нападении фашистской Германии.
В половине первого ночи зашифрованный текст ушел по каналам связи, но было уже поздно. Не прошло и четырех часов, как штабы округов доложили о бомбовых ударах гитлеровской авиации по советским городам и аэродромам, после чего оперативное управление Генерального штаба превратилось в подобие растревоженного улья.
Непрерывно работали телеграфные аппараты, принимая поток информации, которая тут же наносилась на карты, анализировалась, обобщалась, докладывалась. Людей не хватало, каждому офицеру приходилось работать буквально «в четыре руки», но растерянность, возникшая в первые часы, быстро прошла.
Верховный главнокомандующий в любое время дня и ночи требовал исчерпывающих сведений по различным вопросам, заслушивал предложения к решениям, привлекал к обсуждению узловых проблем. Взвалив на свои плечи огромную ношу, он отдавал делу себя целиком и требовал того же от других.
Боевые действия развертывались так, что о быстрой победе над противником «малой кровью на его территории» в духе М. Н. Тухачевского и других сторонников теории «классовых войн с массовыми восстаниями пролетариата во вражеском тылу» думать уже не приходилось. И здесь прав оказался стратегический гений А. А. Свечин, предупреждавший, что первый удар врага будет страшен, и призывавший готовиться к обороне самым серьезным образом.
В ночь на 30 июля вместо принявшего Резервный фронт Г. К. Жукова начальником Генерального штаба вновь стал маршал Шапошников. Прошло двое суток, и Василевский узнал, что назначается его заместителем и начальником оперативного управления. С тех пор ему по нескольку раз в день, сопровождая Шапошникова, приходилось бывать на докладах у Верховного главнокомандующего.
Иногда разговоры были трудными, даже резкими. Так, 7 сентября 1941 года они пытались убедить Сталина оставить Киев и отвести войска Юго-Западного фронта за Днепр, так как с севера, со стороны Смоленска, им в тыл неудержимой лавиной катилась 2-я танковая группа под командованием генерала Гудериана. Верховный выходил из себя и даже терял самообладание, упрекая военачальников-генштабистов в том, что они, как и главком юго-западного направления С. М. Буденный, вместо того чтобы бить врага, пытаются уйти от него.
К сожалению, убедить Сталина тогда не удалось, и через 10 дней ситуация обернулась катастрофой на Юго-Западном фронте. Его командование погибло в бою, тяжелая техника и вооружение были потеряны, сотни тысяч солдат и офицеров попали в плен, а те, кому удалось избежать этой участи, небольшими группами пробивались из окружения. Но с тех пор Верховный главнокомандующий начал более внимательно прислушиваться к мнению Генерального штаба.
Во второй половине октября, учитывая приближение линии фронта к Москве, Государственный комитет обороны принял решение об эвакуации ряда правительственных учреждений, в том числе и Генерального штаба во главе с маршалом Шапошниковым. Сам Верховный главнокомандующий твердо отказался покинуть столицу. Обеспечивать его работу должна была лишь небольшая группа офицеров, которую возглавил А. М. Василевский. По сути, им приходилось действовать параллельно с Генеральным штабом. Нагрузка резко возросла, и Александр Михайлович даже не смог проводить Шапошникова, — дел было так много, что 16 октября, в день отъезда Генерального штаба, он был вызван в Ставку, где и проработал до глубокой ночи.
Положение осложнялось день ото дня, но при всей жесткости Верховного главнокомандующего никто не видел на его лице пессимизма, растерянности или неуверенности. Однажды ночью во время телефонного разговора он спросил Василевского, не мог бы тот написать представление на присвоение очередного воинского звания одному из генералов. Василевский, конечно, ответил согласием, спросил, о ком идет речь, смутился, услышав свое имя, и попросил освободить его от этой просьбы.
— Ну хорошо, занимайтесь своими делами, а уж в этом мы как-нибудь без вас обойдемся, — шутливо ответил Сталин.
Воинское звание «генерал-лейтенант» было присвоено на следующий день.
Правда, в столь хорошем настроении Верховный главнокомандующий бывал не всегда, и Александру Михайловичу приходилось выслушивать строгие упреки за то, что и он сам, и его сотрудники спят меньше 6 часов в сутки. Дело было не только в заботе о людях, но в интересах службы — голова у офицеров Генерального штаба всегда должна быть ясной. Сталин сам устанавливал график их отдыха и лично следил за его исполнением.