Великую Отечественную войну Александр Михайлович встретил в должности заместителя начальника Оперативного управления Генерального штаба. За годы работы в Генеральном штабе расширился его военный кругозор, он стал глубже понимать проблемы военного строительства и советского воинского искусства.
Как работник Генерального штаба Александр Михайлович отчетливо видел сгущение туч над страной. Его практическая деятельность все больше связывалась с подготовкой Вооруженных Сил на случай агрессии империализма. Он участвовал в разработке плана обороны Родины. В плане учитывалась возможность войны с Востока, но было твердо сказано, что прежде всего следует ее ждать с Запада, со стороны фашистской Германии. Указывались возможные направления военных действий, определено было главное из них — Москва, как политический, стратегический, экономический центр Родины.
Предусматривались ответные действия Советской Армии, мероприятия по мобилизации.
Александра Михайловича как-то спросили, почему в плане обороны страны говорилось, откуда ждать войну и как к ней готовиться, но не ставился вопрос о том, как она может пойти.
— Вряд ли правомерно ставить так вопрос, — ответил он. — Работники Генерального штаба не прорицатели. Война — двусторонняя борьба, в которой много неизвестных, особенно в ее начальный период. Никто не мог хотя бы приблизительно определить, как трудно, с какими потерями придем мы к ее славному концу. Но, рассматривая военный потенциал Германии, мы не считали, что поведем легкую войну. Опыт агрессии гитлеровцев в Европе говорил о больших возможностях военной машины фашизма в наступательных действиях. Прогнозирование хода войны — это проблема не только военная, но и политическая.
Приближение опасности войны с Запада Александр Михайлович особенно остро ощутил, когда ездил в составе правительственной делегации в фашистскую Германию. Членов делегации, за исключением ее главы, по существу, продержали в отведенной им резиденции. Гитлеровцы вели себя нахально, с нескрываемой враждебностью. Поездка в Германию оставила тяжелое впечатление.
Последние мирные дни А. М. Василевский решал задачи, связанные с подготовкой войск к отражению агрессии. Знакомился с ходом строительства укреплений на новых оборонительных рубежах западных границ.
Рабочий день 21 июня 1941 года подходил к концу, когда последовал приказ начальника Генерального штаба всем генералам и офицерам остаться на ночь на своих служебных местах. А. М. Василевский переключился с итоговой справки о ходе строительства оборонительных рубежей на поддержание связи с приграничными военными округами. Рано утром стало известно, что фашистская авиация бомбит советские города на юго-западе страны. Вскоре поступили сведения о вторжении на советскую землю танковых и моторизованных колонн врага. Война началась.
Около трех десятилетий разделяло первую и вторую мировые войны. Разные это были войны. Другим человеком стал и А. М. Василевский. С первого же дня войны он включился в решение сложнейших задач, вставших перед Генеральным штабом. В аппарате Генштаба быстро сложился новый режим работы и распорядок дня для каждого офицера и генерала. Весь коллектив перешел на казарменное положение. В кабинете Александра Михайловича появилась кровать, предметы туалета и все прочее, необходимое для повседневной жизни человека. Отдыхал он шесть часов в сутки — с четырех до десяти часов утра. Генеральный штаб работал круглосуточно.
Обширный зал заседаний Генерального штаба. Столы, телефоны. Карты. Сюда поступали все сведения с фронтов. Но нередко и запаздывали. Офицеры всех трех стратегических направлений — Западного, Северо-Западного и Юго-Западного — много времени отдавали сбору информации о ходе военных действий. Нужно было точно на каждый день определить, где какая армия ведет бои. А. М. Василевский обобщал материалы, представляемые начальниками стратегических направлений, готовил доклады начальнику Генерального штаба.
Работал много, недосыпал. Но результатами своего труда не был доволен. Генеральный штаб еще не решал всех задач, которые должен был решать.
«Мы, рядовые работники, чувствовали себя в первые дни войны неуютно, — вспоминал Александр Михайлович. — Война идет не так, как должна идти. Хотелось что-то посоветовать, внести предложения по организации обороны. Иду к начальнику Оперативного управления, а он не принимает решений, проявляя несвойственную ему пассивность».
Несколько раз Александр Михайлович прорывался к очень занятому, мало находившемуся в своем кабинете начальнику Генерального штаба Г. К. Жукову, высказывал свои соображения.
Г. К. Жуков знал и уважал Александра Михайловича. Но иногда на ходу отвечал:
— Занимайтесь своими делами, по предлагаемым вами вопросам уже принято Ставкой решение.
Наверное, в самом деле руководству Генштаба было не до предложений А. М. Василевского. Обстановка на фронте обострялась, а стиль стратегического руководства только складывался.