Перед войсками 3-го Белорусского фронта стояла задача разгромить Восточно-Прусскую группировку противника и взять Кенигсберг. «Вступив в командование фронтом, — вспоминал заместитель Василевского И. X. Баграмян, — за считанные дни (Александр Михайлович) полностью изучил ситуацию, выявил те звенья оперативной цепи, ухватившись за которые можно было вытянуть ее полностью, то есть ликвидировать Восточно-Прусский плацдарм. Он с твердостью, присущей только очень волевым военачальникам, наметил последовательность действий. Сначала разгром Хейльсбергской группировки, затем штурм Кенигсберга, и наконец, сокрушение войск врага на Земландском полуострове. Поручив мне все, что было связано с подготовкой штурма Кенигсберга, он, казалось, весь ушел в организацию Хейльсбергской операции и руководил ею с необычайной конкретностью и скрупулезностью. Как только развязка в Хейльсберге стала зримой, Александр Михайлович переключился на Кенигсберг и в короткий срок завершил разгром Восточно-Прусской группировки противника».
Гитлер объявил Кенигсберг «абсолютно неприступным бастионом немецкого духа», «лучшей немецкой крепостью за всю историю Германии». Штурм города войсками Василевского начался 6 апреля 1945 года, и уже через три дня он был взят. При штурме Кенигсберга широко применялись бомбардировочная авиация, в том числе дальнего действия, тяжелая артиллерия, бронетанковые войска. Оборона города не устояла перед применением массированных средств разрушения и атакующим потенциалом частей и соединений 3-го Белорусского фронта.
Лично командуя войсками, Василевский стремился ограничить потери своими продуманными решениями. Так, план взятия Кенигсберга был разработан таким образом, чтобы ранее ослабить противника и только после этого приступать к штурму города. По мнению генерала армии М. А. Гареева, при проведении этой операции проявились такие черты полководческого дарования Василевского, как расчетливость и осторожность. Сам Василевский по этому поводу говорил следующее: «Думаю, что каждый военачальник, будь то командир части или дивизии, командующий армией или фронтом, должен быть в меру расчетливым и осторожным.
У него такая работа, что он несет ответственность за жизнь тысяч и десятков тысяч воинов, и его долг — каждое решение взвешивать, продумывать, искать наиболее оптимальные пути к выполнению боевой задачи. Расчетливость и осторожность в рамках необходимости, по моему мнению, являются не отрицательным, а положительным качеством военачальника».
В годы войны А. М. Василевский сделал блестящую карьеру. Дважды за годы войны он удостаивался звания Героя Советского Союза и дважды был награжден высшим полководческим орденом «Победа» (в 1944 и 1945 гг.), причем единственный из советских военачальников получил эту награду как начальник Генштаба и как командующий фронтом. Он, как никто другой, мог объективно оценить действия Верховного командования Красной Армии и генералитета по руководству вооруженной борьбой. Своей собственной ошибкой как начальника Генштаба, например, Василевский считал запоздалую организацию Воронежского фронта в 1942 г. «Должен сказать, — честно признавал Александр Михайлович в своих мемуарах, — что одной из особенностей войны является то, что она требует скорых решений. Но в непрестанно меняющемся ходе боевых действий, разумеется, принимались не только правильные, но и не совсем удачные решения».