Поэтому ГБТУ приняло решение, начиная с 1957 года, провести при капитальном ремонте конструктивные улучшения этих танков с целью продления срока их службы, а также унификации ряда узлов и агрегатов с узлами и агрегатами других тяжелых танков. Следует отметить, что отдельные модернизационные мероприятия проводились на танках ИС-2 уже начиная с 1954 года, в частности усиление днища под коробкой передач путем приварки броневой накладки толщиной 16–20 мм.
В дальнейшем на ИС-2 установили двигатель В-54К-ИС с электростартером, форсуночным подогревателем НИКС-1, электрическим маслозакачивающим насосом МЗН-2 и воздухоочистителем ВТИ-2 с отсосом пыли из бункеров. Установка нового двигателя влекла за собой изменения системы смазки и охлаждения. Наружные топливные баки включили в систему питания танка так же, как и на танке ИС-3. Была установлена коробка передач с масляным насосом и системой охлаждения масла, введено жесткое крепление ее на задней опоре. Планетарные механизмы поворота стали соединяться с несущими дисками бортовых редукторов с помощью полужесткого соединения. В ходовой части установили новые опорные катки и направляющие колеса с нерегулируемыми подшипниками.
По корпусу изменения затронули в основном моторно-трансмиссионное отделение, в котором установили усиленный подмоторный постамент и новые опоры коробки передач. Кроме того, щелевой прибор наблюдения механика-водителя заменили на призменный прибор наблюдения, заимствованный от Т-54, танк оборудовали прибором «Угол» и прибором ночного видения ТВН-2 или БВН.
В башне установили новый усиленный стопор, по типу применяемого на среднем танке Т-54, а также подъемный механизм пушки со сдающим звеном. Боекомплект довели до 35 артвыстрелов. Кормовой башенный пулемет был изъят, а вместо него размещен дополнительный вентилятор. Отверстие в башне под пулемет заваривалось специальной броневой заглушкой, в которой имелась лабиринтная щель для вентиляции.
Количество аккумуляторных батарей увеличили с двух до четырех. Установили радиостанции Р-113 и танковые переговорные устройства Р-120 послевоенной конструкции, новые крылья с бункерами по типу ИС-3, игравшие роль противокумулятивных экранов, электрозапалы и электросбросы для дымовых шашек БДШ, вторую фару со светомаскировочным устройством, изменили состав и раскладку ЗИПа.
Одновременно при капитальном ремонте танков проводился и ряд технологических улучшений: двойное бакелитирование баков и трубопроводов, повышение стойкости антикоррозийных покрытий, восстановление посадочных мест деталей до номинальных размеров и т. д.
В результате модернизации изменились боевые и технические характеристики танка ИС-2, и он получил обозначение ИС-2М.
Следует отметить, что модернизация началась в 1957 году, а закончилась в середине 1960-х, поэтому в зависимости от времени прохождения капремонта танки ИС-2М порой существенно отличались друг от друга и по характеру внесенных изменений, и по примененным агрегатам. Весь парк тяжелых танков ИС-2 Советской армии был доведен до уровня ИС-2М, в результате чего в первозданном виде в СССР их практически не осталось. Прекрасные кинокадры с участием именно немодернизированных ИС-2 на марше и в атаке можно увидеть в художественном фильме «Максим Перепелица», вышедшем на экраны страны в 1955 году.
Помимо Красной армии, ИС-2 состояли на вооружении Войска Польского. Они входили в состав польского 7-го тяжелого танкового полка. На вооружение чехословацкой армии несколько ИС-2 поступило весной 1945 года, накануне освобождения Праги. О наличии этих машин в Чехословацкой народной армии сведений нет. В начале 1950-х годов небольшое количество ИС-2 передали Китаю. К концу войны в Корее китайские добровольцы располагали 38 танками этого типа, однако информации об их боевом применении нет. Куба получила два полка ИС-2 в начале 1960-х годов. По сообщениям иностранной печати, эти машины все еще находятся в эксплуатации в береговой обороне в качестве огневых точек. Примерно в это же время ИС-2 поступили и в КНДР. В составе северокорейской армии имелись две танковые дивизии с одним тяжелым танковым полком каждая.