Единственной серийной модификацией стал командирский танк Т-62К, отличавшийся от линейной машины установкой дополнительной радиостанции Р-112, танковой навигационной аппаратуры ТНА-2 и зарядного агрегата АБ-1-П/30-У. Боекомплект уменьшился на четыре арт-выстрела и три коробки с лентами для спаренного пулемета. Был добавлен еще один комплект четырехметровой штыревой антенны, изменено крепление сиденья заряжающего, а также внесены некоторые изменения в схему электрооборудования, в размещение боекомплекта и ЗИП и в компоновку аппаратов ТПУ.
Что же касается линейных Т-62, то за время серийного производства они изменились мало. Все усовершенствования сводились в основном к установке более современного оборудования и вооружения. Так, с августа 1964 года спаренный пулемет СГМТ заменили на ПКТ, а командирский прибор наблюдения ТКН-2 на ТКН-3. С 1965 года вместо радиостанции Р-113 и ТПУ Р-120 стали устанавливать радиостанцию Р-123 и ТПУ Р-124. В том же году ввели броневой колпак ночного прицела ТПН-1-41-11. С мая 1966 года гирополукомпас ГПК-48 заменили на ГПК-59, а в 1967 году ликвидировали люки в крыше МТО. С 1972 года стал устанавливаться зенитный пулемет ДШКМ. Начиная с 1975 года часть выпущенных танков оборудовали лазерными дальномерами КДТ-1.
Сразу после появления в войсках танки Т-62 привлекли внимание западных специалистов. Однако долгое время они не могли получить даже фотографии новой секретной боевой машины. Советской общественности танк официально продемонстрировали только в 1967 году: 7 Ноября по Красной площади прошли 20 Т-62 4-й гвардейской Кантемировской танковой дивизии. Европейская общественность смогла познакомиться с этими танками годом позже: в ночь на 21 августа 1968 года началась операция «Дунай» — ввод войск стран — участниц Варшавского договора в Чехословакию. На вооружении ряда танковых частей Советской армии, принимавших участие в этой операции, находились и танки Т-62. Чехословацкая армия сопротивления не оказала, поэтому больших жертв удалось избежать.
Побывать же в реальном бою «шестьдесятдвойкам» пришлось уже спустя полгода, но совсем на другом конце страны. В ночь на 2 марта 1969 года около 300 китайских военнослужащих заняли остров Даманский на р. Уссури, оборудовав на нем огневые позиции. Попытка советских пограничников во главе с начальником погранзаставы Нижнемихайловка старшим лейтенантом Иваном Стрельниковым удалить нарушителей с советской территории закончилась трагически — наряд был расстрелян китайцами в упор. В завязавшемся бою с помощью подошедших резервов пограничники остров отбили и заняли оборону. Поскольку попытки китайской стороны завладеть островом продолжались, 12 марта в район боев прибыли части 135-й Тихоокеанской Краснознаменной мотострелковой дивизии ДВО — мотострелковый и артиллерийский полки, отдельный танковый батальон и дивизион реактивных установок БМ-21 «Град». Тем не менее пограничники просидели в окопах вплоть до 14 марта, когда последовал неожиданный приказ — Даманский оставить! Китайцы вновь заняли остров, правда, ненадолго. Не прошло и дня, как поступил новый приказ — Даманский отбить, что и было сделано. Утром 15 марта китайцы при поддержке артиллерии и танков начали атаковать остров. При этом наши пограничники остались практически без артиллерийской поддержки, так как китайские орудия находились на китайском же берегу. Пока командование ДВО запрашивало у Москвы разрешения открыть огонь по китайскому берегу, начальник погранотряда полковник Д. Леонов решил нанести удар в тыл противника силами приданного взвода танков Т-62 (по другим данным — произвести разведку).