В феврале 1944 г. имевшиеся в составе Красной Армии полки прорыва, укомплектованные танками КВ, были переведены на новые штаты. Одновременно началось формирование новых частей, оснащенных машинами ИС, которые стали именоваться тяжелыми танковыми полками. При этом им еще при формировании присваивалось наименование "гвардейский". По штату в новых полках насчитывалось 375 человек личного состава, четыре танковые роты ИС (21 танк), рота автоматчиков, рота технического обеспечения, зенитная батарея, саперный, хозяйственный взводы и полковой медицинский пункт. Формирование велось в Тесницком танковом лагере под Тулой. Особенностью экипажа тяжелого танка ИС было наличие в нем двух офицеров – командира танка и старшего механика-водителя и двух сержантов – наводчика орудия и заряжающего (он же младший механик-водитель). Подобный состав экипажей говорит о важности задачи, которая возлагалась на новые машины и вооруженные ими гвардейские полки.
Первые три полка (1-й, 29-й и 58-й) поступили в оперативное подчинение командующему 1-й гвардейской армии, которая наносила главный удар в ходе Проскуровско-Черновицкой наступательной операции. Еще два полка (8-й и 13-й) вошли в состав 2-й гвардейской танковой армии и вместе с другими частями приняли на себя основной удар 16-й, 17-й и 1-й немецких танковых дивизий, пытавшихся деблокировать группировку, окруженную советскими войсками у г.Корсунь-Шевченковский
Одним из первых вступил в бой 13-й гвардейский тяжелый танковый полк прорыва. 15 февраля 1944 г.. имея в своем составе 21 танк ИС-85, он прибыл в район Фастов – Белая Церковь. После марша полк получил задачу поддержать атаку 109- й танковой бригады на д.Лисянка, для чего командиром полка была выделена рота – пять танков ИС. К моменту вступления ее в бой последние Т-34 109-й танковой бригады, атаковавшие Лисянку в лоб, были подбиты "пантерами", противотанковыми и штурмовыми орудиями немцев. Подпустив ИСы на расстояние 600 – 800 м, немецкие танки и САУ открыли шквальный огонь и в течение 10 минут подбили все наши тяжелые машины, при этом две из них сгорели. Каждый танк получил от 3 до 7 попаданий. На следующий день д.Лисянку окружили и взяли. В ней были захвачены брошенные без горючего 16 "пантер", два Pz.IV и два штурмовых орудия.
Первое столкновение ИС-85 с "тиграми" произошло 4 марта 1944 г. в районе г.Староконстантинова на Украине в ходе Проскуровско-Черновицкой наступательной операции. 1-й гвардейский тяжелый танковый полк прорыва вступил в бой с ротой тяжелых танков "Тигр" 503-го тяжелого танкового батальона. В ходе перестрелки в условиях плохой видимости с дистанции 1500- 1800 м один ИС оказался подбит, а три получили повреждения но впоследствии были отремонтированы. Ответным огнем ИСов у одного "Тигра" повредили пушку, а у другого – ходовую часть. 16 марта "тигры", открыв огонь из засады, подбили четыре ИСа, два из которых сгорели вместе с экипажами.
ИС-2 оказался более грозным противником танков Вермахта, поскольку пушка Д- 25Т имела большую дальность прямого выстрела, чем Д-5Т, а ее бронебойный снаряд значительно большую бронепробиваемость. Достаточно эффективно использовались против немецких танков и мощные 122-мм осколочно-фугасные снаряды.
Существенными недостатками ИС-2, ограничивавшими его противотанковые возможности, стали маленький боекомплект и раздельное заряжание пушки, снижавшее скорострельность.
Немцы довольно долго не имели возможности детально изучить подбитые ИС- 2, поскольку поле боя оставалось за русскими, Такая возможность им представилась лишь в мае 1944 г. под румынским городом Тыргу-Фрумос.