Один из полезных уроков, полученных по результатам полетов Ту-98, состоял в том, что колея шасси шириной 2,5 м была признана чрезмерно зауженной. На новом истребителе для повышения продольной устойчивости при взлете и посадке колею увеличили до 6,85 м.
Новый самолет в первый раз показали на публике во время воздушного парада в Тушине в августе 1961 года. Многие иностранные наблюдатели были поражены его размерами и тем, что под фюзеляжем его отчетливо просматривались ракеты.
В рамках программы испытаний в 1962 году отрабатывалась задача обнаружения и уничтожения «прорвавшегося самолета противника», в роли которого выступал управляемый по радио Ил-28 без экипажа. Задача была легко выполнена: Ил-28 удалось уничтожить с дальности около 30 км ракетой Р-4РМ «воздух- воздух» (условное обозначение ракеты по классификации НАТО – «Эш» АА-5).
После завершения в июле 1964 года программы испытаний, министр обороны СССР неожиданно издает директиву, касающуюся обозначения истребителя: вместо принятого в ВВС обозначения Ту-28 вводится условное обозначение конструкторского бюро Ту-128 с индексом С-4. Самолет поступил в серийное производство в 1964 году и выпускался на Воронежском заводе № 64. Первым образцом нового самолета был перехватчик Ту-128С-4, который поступил на вооружение в ВВС 30 апреля 1965 года.
Специалисты конструкторского бюро и ВВС понимали, что готовить летчиков к полетам на больших и сложных новых истребителях-перехватчиках непросто, поэтому следующий вариант самолета, поступивший в эксплуатацию, представлял собой учебно-тренировочный самолет Ту-128УТ, переделанный из серийного С-4 путем замены аппаратуры РЛС, установленной в носовой части самолета, на кабину инструктора. Начиная с 1966 года было вновь построено некоторое число учебно-тренировочных машин, но из-за того, что видимость из кабины инструктора была ограниченной, построили таких машин немного. Штурманы, выполнявшие, кроме основной работы, функции операторов наведения оружия, проходили подготовку на Ту-128С-4, которые имели незначительные изменения. В НАТО Ту-128 получил условное наименование «Фиддлер». Первые два самолета «Фиддлер А», оба – предсерийные, те самые, которые были показаны на воздушном параде в Тушине в День авиации в 1961 году, имели подфюзеляжные кили, установленные непосредственно под хвостовым оперением. Самолеты Ту-128С-4 «Фиддлер В» были уже серийными машинами.
Серийное производство Ту-128 прекратилось в 1971 году. Всего было выпущено 198 машин. К тому времени в КБ «МиГ» были созданы новые образцы МиГ-25, предназначенных для решения задач перехватчиков, и начались работы по МиГ-31. Несмотря на это, Туполев разрабатывает усовершенствованную модель самолета – Ту-128С-4М, совершившую первый полет 15 октября 1970 года. Если предшествующие варианты предназначались для перехвата высотных целей, то этот самолет имел вооружение для перехвата низколетящих целей. Его испытания закончились к 1974 году. В связи с тем, что серийное производство самолета к тому времени уже было прекращено, в некоторых авиачастях ряд машин переоборудовали для выполнения новых задач прямо на авиаремонтных заводах.
Ту-128 состоял на вооружении эскадрилий ПВО/ПРО, дислоцирующихся в районах Архангельска, Амдермы, Омска, Белой и Семипалатинска. Срок его службы составлял 2 300 летных часов/взлетно-посадочных циклов и двадцать лет, по западным меркам немного, но достаточно для самолета, работающего в режиме боевого дежурства и обладающего высокими летно-техническими характеристиками.
При взлетном весе 43 т это был самый большой истребитель-перехватчик, когда-либо состоявший на вооружении. Его максимальная скорость без ракет составляла 1 920 км/час; с ракетами, подвешенными под крылом, – 1 665 км/час, практический потолок – 15 600 м, причем облегченный самолет мог достигать высоты 20 000 м. РЛС РП-С «Смерч» обнаруживала цели на дальности до 50 км, а комплекс К-8 позволял поражать цели на дальностях до 35 км. Длина разбега с максимальным взлетным весом без форсажа составляла 1 350 м, а длина пробега при посадке – 1 050 м. Самолет выдерживал перегрузки до 2,5 g. Штатное вооружение самолета включало две ракеты Р-4РМ и две – Р-4ТМ (условное обозначение по классификации НАТО «Эш» АА-5). Ракета РМ имела полуактивную головку наведения с собственной системой наведения, ракета меньшей дальности – ТМ – имела головку самонаведения по тепловому излучению.
В 1990 году Ту-128 был снят с вооружения частей ВВС. Большинство самолетов модели Ту-128С-4М выведены из боевого состава в 1989 году.
Ту-134