Основное преимущество Т-4 заключалось в лучших возможностях по поражению морских целей: имея больший потолок (а следовательно, и радиолокадионый горизонт), «сотка» могла обнаружить корабельное соединение противника на большей дальности. Дальность поражения целей также увеличивалась как за счет использования более современной УР, так и большей кинетической энергии, придаваемой ракете скоростным самолетом в момент пуска. Однако Т-4, несмотря на заинтересованность заказчика, погубила высокая сложность принципиально нового «борта» и вооружения, сроки создания которых постоянно отдалялись, пока в 1975 г. вся программа не была закрыта (несмотря на то что в Казани уже приступили к изготовлению оснастки для серийного выпуска Т-4). А.Н. Туполев, сделавший ставку на использование уже существующего или модернизируемого вооружения и БРЭО на планере, пусть лишь формально, но также являвшимся модернизацией ранее созданной конструкции, оказался победителем в этом конкурсе.
Первый полет опытного самолета Ту-22М-0 (Ту-22КМ), построенного на Казанском авиационном заводе, состоялся 30 августа 1969 г. (машину пилотировал летчик-испытатель В. Борисов). В том же году начались заводские испытания бомбардировщика, продолжавшиеся до 1970 г. Позже было построено еще несколько опытных Ту-22М-0, два из которых в феврале 1973 г. были переданы в Рязанский центр боевого применения дальней авиации, где на них началась подготовка строевых летчиков. Отличительной особенностью первых Ту-22М являлось отсутствие (впервые на бомбардировщиках А.Н. Туполева) оборонительного вооружения; иместо пушечной установки в хвостовой части фюзеляжа размещался контейнер, вмещавший средства РЭП и тормозной парашют.
В 1971 г. на Казанском авиационном заводе началась постройка малой серии бомбардировщиков Ту-22М-1. В отличие от опытных Ту-22М-0, новые машины вновь обрели (по настоянию военных) оборонительное вооружение, состоящее из двух пушек ГШ-23. На самолетах были установлены воздухозаборники несколько измененной формы, ставшие более прямоугольными; обтекатель оптического бомбардировочного прицела был перенесен под центр фюзеляжа (на первых машинах он был установлен с правой стороны), отсек тормозного парашюта переместился в нижнюю часть фюзеляжа. Новинкой явилась и окраска планера в серый цвет (нижняя поверхность фюзеляжа и крыла покрывалась белой, «противоатомной» краской).
Государственные испытания Ту-22М-1 завершились лишь в 1975 г., но уже в 1971 г., не дожидаясь их окончания, началось крупносерийное производство бомбардировщика Ту-22М-2, оснащенного ТРДДФ НК-22 (дальнейшее развитие НК-144-22) с тягой 22 000 кгс. В ходе испытаний бомбардировщик развил скорость 1800 км/ч и показал дальность 5100 км. В 1976 г. этот самолет был официально принят на вооружение.
Хотя Ту-22М-2 и не был оснащен, как американский бомбардировщик Рокуэлл В-1, системой автоматического огибания рельефа местности, он был способен совершать относительно продолжительные маловысотные «броски», уклоняясь от поражения средствами ПВО противника, при этом заданная высота поддерживалась автоматически, при помощи радиовысотомера. О боевых возможностях новой машины свидетельствовал, в частности, дальний маловысотный перелет, совершенный в 1975 г. на высотах 40-60 м группой самолетов Ту-22М-2, возглавляемой нынешним главнокомандующим ВВС России П.С. Дейнекиным.
На базе ТРДДФ НК-22 в ОКБ Н. Кузнецова был разработан новый, более мощный и экономичный трехвальный двигатель с электронной системой управления НК-25 (25 000 кгс). В 1974 г. новый ТРДДФ установили на специально переоборудованный Ту-22М-2, получивший новое обозначение – Ту-22М-2Е. Под этот двигатель в 1977 г. была создана следующая модификация бомбардировщика – Ту-22М-3. Самолет имел новый, «ковшовый» воздухозаборник с горизонтальным клином, что обеспечило двигателю более «комфортные» условия работы. Аэродинамика самолета была улучшена за счет придания удлиненной на 0,8 м носовой части фюзеляжа более острых обводов. Кроме того, исчез «аппендикс» штанги топливоприемника системы дозаправки топливом в воздухе, демонтированной на всех Ту-22М в соответствии с протоколом договора ОСВ-2 (впрочем, на нескольких первых серийных Ту-22М-3 штангу успели установить, и она была снята уже позже, после передачи бомбардировщиков в строевые части).