Одновременно с этим предпринимались попытки по модернизации Т-28. Осенью 1935 года в СКБ-2 начались работы по созданию «скоростной машины Т-28». Планировалось улучшить скоростные и манёвренные качества танка за счёт переконструирования бортового редуктора и коробки передач. Ведущим инженером новой машины, получившей индекс Т-28А, был заместитель начальника СКБ-2 А. Ефимов. Первое опробование Т-28А прошло 11 сентября 1935 года. Танк без труда разогнался до скорости 55,8 км/ч! После необходимых доработок в мае 1936 года комиссия под председательством командира 6-й тяжёлой танковой бригады полковника Лизюкова провела испытания «скоростной машины Т-28 «Сталин», заводской № С-910». В своём заключении по результатам испытаний комиссия отмечала: «Скоростная машина Т-28А по своим тактико-техническим и конструктивным свойствам является боевой и для эксплуатации в войсках вполне пригодной. Для прохождения среднепересечённой местности третья передача (46 км/ч при оборотах двигателя 1450 об/мин) должна быть нормальной эксплуатационной, а четвёртая (55,8 км/ч при оборотах двигателя 1450 об/мин) должна быть резервной при движении по фунтовым дорогам и шоссе».
С июня 1936 года скоростные танки Т-28А стали выпускаться серийно и до конца года их изготовили 52 штуки. В ноябре 1936 года на Т-28А с заводским № 1551 установили трансмиссию изменённой конструкции. На испытаниях этот танк показал рекордную скорость — 65 км/ч! Но в связи с готовившимся в 1937 году переходом Кировского завода на производство колёсно-гусеничного танка Т-29, программа по Т-28 была резко сокращена (по сравнению с 1936 годом уменьшена в 2,5 раза). В рамках этого выпуск Т-28А в 1937 году прекратили.
30 сентября 1936 года начальник автобронетанкового управления (АБТУ) РККА И. Халепский утвердил тактико-технические требования на разработку новых конических башен для Т-28. При этом правую пулемётную башню предполагалось вооружить двумя пулемётами ДТ, а левую — пулемётами ДТ и 12,7 мм ДК. Проекты таких башен, рассмотренные на заседании научно-технического комитета (НТК) АБТУ в марте 1937 года признали неудовлетворительными. Затем, в связи с загруженностью СКБ-2 подготовкой к серийному производству танка Т-29, работы по коническим башням для Т-28 свернули. Только в 1938 году были разработаны чертежи, а в 1939-м Ижорский завод изготовил десять больших конических башен (малые пулемётные конические башни не производились). Они были установлены на танках во второй половине 1939 года.