Несмотря на довольно высокие характеристики, необходимо признать, что Т-44 не имел существенных преимуществ перед танком Т-34/85, как по своему бронированию, так и по вооружению. Недолгую карьеру Т-44 в основном предопределила как раз недостаточная мощность его основного вооружения — 85 мм орудия ЗИС-С-53. Уже к концу 1944 года, с появлением на поле боя немецких танков и самоходок со значительно усиленной бронезащитой (для уверенной борьбы с которыми мощности 85 мм пушки, которой были вооружены советские средние танки, уже не доставало) стало ясно, что Т-44 не может рассматриваться как основная боевая машина танковых войск даже на ближайшую перспективу.
Имелось два пути повышения мощности пушечного вооружения среднего танка. Первый — увеличение начальной скорости снарядов 85 мм орудий за счет увеличения порохового заряда или удлинения ствола. Работая в этом направлении, в 1944 году в Центральным артиллерийским конструкторским бюро (руководитель — Грабин) было разработано 85 мм танковое орудие большой мощности.
Второй путь — увеличение калибра танкового орудия. Правда первая попытка оснастить Т-44 с пушкой большого калибра — Д-25Т-44 (122 мм) (кончилась неудачей (боекомплект составлял всего 24 выстрела, а заряжающему не удалось обеспечить нормальные условия работы). После этого было предложено оснастить советские средние танки, в том числе и Т-44, орудиями калибра 100 мм, с баллистикой, хорошо освоенной в производстве корабельной пушки Б-34. Начиная с 1944 года, разработка таких орудий проводилась параллельно с длинноствольными калибра 85 мм. Так в ОКБ-9 на базе морского орудия была создана 100 мм пушка Д-10, в ОКБ № 92 в г. Горьком спроектировали 100-мм пушку ИС-100, а в конце 1944 года в КБ № 92 завода им. Сталина в г. Горьком была спроектирована 100 мм танковая пушка ЛБ-1 (кстати, ЛБ расшифровывается как Лаврентий Берия, который в то время был заместителем председателя Государственного Комитета Обороны и ведал вопросами вооружения).
Окончательный выбор в пользу 100 мм орудия определило то, что относительно легкие снаряды 85 мм пушек плохо пробивали наклонную лобовую броню, толщиной более 80 мм из стали повышенной твердости, которая устанавливалась во второй половине войны на немецкой бронетехнике. В то же время менее скоростные, но более тяжелые 100 мм снаряды крушили такую броню на всех дистанциях. К тому же в производстве 100 мм пушка с длиной ствола 56 калибров и умеренным давлением пороховых газов была проще и дешевле, а 85 мм пушку повышенной мощности нельзя было вместить в габариты танковой башни меньшие, чем необходимые для установки 100 мм пушки.
Уже летом 1944 года конструкторами ОКБ-520 был предложен проект улучшенного танка (первоначально именовавшегося в документах Т-44В) с усиленным вооружением (100 мм пушка Д-10Т), бронированием (корпус до 100 мм, башня до 130 мм) и более выносливой подвеской. Также предполагалось установить более мощный двигатель с новой системой охлаждения и планетарную трансмиссию (существенно повышавшей маневренность), а также значительно улучшить условия работы экипажа в боевой обстановке. Реализация всех этих изменений тянула уже не на модернизацию, а изготовление совершенно новой машины.
В сентябре 1944 года проект нового танка, который теперь уже именовался как Т-54, был рассмотрен в Наркомате танковой промышленности. Начальство одобрило проект, более того, спустило в ОКБ напряженный график работ: к 1 декабря 1944 года изготовить опытный образец, к 15 января 1945 года закончить испытания и к 20 мая выпустить и доставить всем заводам изготовителям нового танка рабочие чертежи. Однако работы велись не так быстро, как предписывало начальство. Реально проектирование удалось завершить только в декабре 1944 года, а опытный образец был изготовлен в январе — феврале 1945 года.
При конструировании танка Т-54 были использованы узлы и механизмы среднего танка Т 44, с внесением в них изменений, вызванных усилением вооружения и бронирования. Литая башня с диаметром погона в свету 1800 мм имела толщину брони в лобовой части 180 мм (у Т-44 — 120 мм). Вварная крыша башни изготавливалась из двух катаных броневых листов толщиной 30 мм (у Т-44 — 15 мм).
Конструкция корпуса в целом была аналогична корпусу Т-44. Однако толщина верхнего и нижнего лобовых листов, установленных соответственно под углами 60° и 45° от вертикали, составляла 120 мм (у Т-44 — 90 мм). Лобовой лист корпуса выполнялся без смотровой щели механика-водителя.
Вооружение танка состояло из опытной 100-мм танковой пушки Д-10ТК (боевая скорострельность до 7 выстр./мин) и двух 7,62-мм пулеметов: один был спарен с пушкой; второй, курсовой, устанавливался в отделении управления справа от механика-водителя.