В начале 1960 года Н.СХрущев побывал с официальным визитом во Франции. Прилетел он туда на Ту-104. Находясь во Франции, Хрущев несколько раз летал на юг страны на французском двухдвигательном реактивном лайнере средней дальности «Каравелла», принятом в эксплуатацию в 1959 году. Несмотря на то что Ту-104 обладал многими превосходными качествами, у него был достаточно высокий уровень шумов, как для аэропорта, так и для пассажиров, находящихся почти рядом с двигателями, установленными в корневой части крыла. «Каравелла» была первым реактивным самолетом, у которого двигатели находились в хвостовой части, и это в значительной мере уменьшало шум. Хрущев был поражен.
По возвращении в Москву он вызвал к себе Туполева и дал указание сконструировать авиалайнер с компоновкой, подобной «Каравелле». Ту-124 только что совершил свой первый полет, и в Харькове уже велась подготовка к серийному производству. Дмитрий Марков получает задание приступить к новому проекту. За основу новой конструкции он берет Ту-124, поэтому первоначально новый самолет назывался Ту-124А. К числу достоинств, которые обеспечивались хвостовым расположением двигателей, относили следующее: улучшенные аэродинамические характеристики за счет «чистого крыла», меньшая нагрузка на конструкцию от реактивной газовой струи, пониженный уровень шума в салоне. Имелись, однако, и некоторые трудности: необходимо было повысить прочность фюзеляжа, а за счет этого возрастал вес, центровка машины значительно смещалась назад и для уравновешивания крыло также необходимо было сместить ближе к хвосту, наконец, усложнялись конструкция и техническое обслуживание хвостового стабилизатора.
В то время западные конструкторы тоже работали над схемой расположения двигателей в хвостовой части. Для реактивных авиалайнеров 60-х годов это практически была уже стандартная схема. В 1963 году в эксплуатацию поступает «Боинг-727», в 1964-м – самолет VC-10 английской фирмы «Бритиш эркрафт корпорейшен» («БАК»), а в 1965 году- «БАК 1-11» и «DC-9» фирмы «Дуглас». Позднее на авиалиниях появились Ил-62 конструкции Ильюшина, Як-40 и Як-42 Яковлева и Ту-154 Туполева.
Марков начинает с фюзеляжа Ту-124. Первоначально он определяет требования, которым должен отвечать новый лайнер: вместимость – 40 пассажиров, экипаж – 4 человека, полезная нагрузка – 5 т, максимальная скорость – 1 000 км/час, крейсерская скорость – 800-900 км/час, дальность полета – 1 500 км с резервом топлива на 30 минут полета. Проектные работы были закончены в начале апреля 1961 года. Некоторые технические условия к этому времени были уже изменены: повысилась экономическая эффективность, количество пассажиров увеличилось до 46 в смешанной компоновке и до 56 – в компоновке экономического класса.
Конструктор авиационных двигателей Соловьев разработал новый вариант двигателя Д-20П – двигатель Д20П-125 с тягой 5 800 кг. Для проведения первых испытаний самолета Марков решил сразу установить новый двигатель. Он удлинил фюзеляж на 660 мм и изменил компоновку хвостового стабилизатора: горизонтальная плоскость теперь была перемещена в верхнюю часть киля. Основные же изменения коснулись крыла, которое имело совершенно новую конструкцию; единственным сходством с Ту-124 была стреловидность 35 градусов. Размах крыла Ту-134 составил 29 м против 25,55 м у Ту-124. Крыло имело двухсекционные элероны, приводимые в действие сервокомпенсаторами и триммерами. Работой закрылков управляла электромеханическая система, интерцепторами – гидравлическая система. Профиль нового крыла отличался от профиля крыла Ту-124.
В декабре 1962 года Д. Марков приступает к работе по проекту Ту-45. Высокая загруженность работой заставила его отказаться от дальнейшей работы по авиалайнеру, и на его место был назначен Леонид Селяков, который, оставался бессменным руководителем этой программы на всем ее протяжении. Летные испытания некоторого оборудования нового самолета начались уже в 1963 году. Основным объектом испытаний был двигатель Д-20П-125, который установили на три стандартных образца Ту-124. Многие западные источники утверждают, что первые Ту-134 были переделанными самолетами Ту-124. В АНТК имени Туполева придерживаются другого мнения и подчеркивают, что перенести корневую часть крыла практически невозможно.
Детали для первых Ту-124А изготавливали в Харькове, затем доставляли в Москву и на 156-м заводе монтировали на самолет, затем здесь же снимали крыло и хвостовую часть и отправляли в Жуковский. (Отметим, что проект был переименован в Ту-134 только в 1963 году).