Ещё будучи студентом, Гайдай приглянулся тогдашнему мэтру советского кино Ивану Пырьеву (жена Гайдая снялась у него в своей первой картине «Испытание верности»), поэтому, когда учёба во ВГИКе закончилась, мэтр предложил молодому режиссёру два варианта: пойти помощником к Э. Рязанову (тот готовился снимать «Карнавальную ночь») или к театральному режиссёру А. Гончарову. И Гайдай выбрал второго. С ним они приступили к съёмкам фильма по драме Короленко «Долгий путь». Однако во время работы режиссёры вдруг начали конфликтовать, и съёмки остановились. И тогда в дело вмешалось руководство студии. В итоге Гончарова со съёмочной площадки убрали, и фильм доснимал Гайдай в паре с другим режиссёром — В. Невзоровым. Таким образом, он стал первым из выпускников своего курса, кто получил самостоятельную работу, да ещё на «Мосфильме»! Правда, это была не комедия.
Гайдая заметили. Более того, его взял под своё крыло ещё один мэтр — Михаил Ромм. Именно он разглядел в начинающем режиссёре талант комедиографа. В те годы Ромму разрешили создать на «Мосфильме» собственную мастерскую, и именно в ней мэтр советской режиссуры и предложил Гайдаю снять свою первую комедию. Называлась она «Жених с того света», и в главных ролях в ней снялись Ростислав Плятт и Георгий Вицин. Однако, несмотря на то что фильм появился в так называемые оттепельные времена (в 1957 году), судьба его оказалась печальной. Фильм был сатирическим, едко и зло высмеивал бюрократов. Именно эта сатира и не понравилась министру культуры Михайлову. Вызвав к себе Ромма, он с нескрываемым раздражением заявил: «Теперь-то мы знаем, чем вы занимаетесь в своей мастерской!» После этого разговора фильм приказано было сократить вдвое, и Гайдай, чуть ли не рыдая, взял в руки ножницы. Мастерскую Ромма закрыли, и он какое-то время вообще перестал приходить на «Мосфильм».
Фильм «Жених с того света» на экраны страны всё-таки вышел, однако начальство распорядилось сделать всего 20 копий картины, поэтому видели её ограниченное число зрителей. Всё это не могло не сказаться на здоровье самого режиссёра. По словам И. Фролова: «Я тогда встретил Лёню совершенно измотанного и больного. И без того длинный и тощий, он высох ещё больше. Одежда болталась, как на жерди. Жаловался на приступы боли в желудке. Открылась язва. Надо было лечиться. И Гайдай решил поехать на минеральные воды. На прощание заявил: „За комедию больше не возьмусь“».
И действительно, в 1959 году он поставил фильм «Трижды воскресший», который рассказывал о судьбе волжского буксира «Орлёнок». Фильм с треском провалился, несмотря на то что в главной роли в нём снялась первая красавица экрана тех лет Алла Ларионова.
Этот провал удручил Гайдая, но не настолько, чтобы из-за него бросить кинематограф. И тут в его судьбу вновь вмешался Пырьев. В 1960 году он прочитал в «Правде» стихотворный фельетон С. Олейника «Пёс Барбос» и тут же предложил Гайдаю снять по нему короткометражный фильм. Он же посоветовал ему взять на роль Бывалого вместо Михаила Жарова актёра Евгения Моргунова. (Клички своим героям Гайдай придумал сам: в фельетоне действовали безликие два Николы и Гаврила.) Вторым стал Георгий Вицин, а третьим был намечен Сергей Филиппов. Однако того тогда в Москве не оказалось, и тогда Вицин заявил: «Я вчера был в цирке и видел клоуна — потрясающий парень, как глиста, изумительно одетый». Этим человеком был Юрий Никулин. Вот что он вспоминает: «Гайдай не произвёл на меня впечатления комедийного режиссёра. Мне тогда казалось, что если человек снимает комедию, то должен непременно и сам быть весельчаком… А передо мной стоял совершенно серьёзный человек».
Фильм «Пёс Барбос и необычный кросс» вошёл в киносборник «Совершенно серьёзно» вместе с короткометражкой Э. Рязанова «Как создавался Робинзон». Однако, в отличие от рязановского фильма, «Пёс Барбос» имел оглушительный успех у зрителей (его купили более 100 стран).
Стоит отметить, что у Е. Моргунова есть особый взгляд на этот фильм, который я здесь и приведу. Вот его слова:
«Это не Леонид Гайдай сделал эту картину. Её сделал величайший кинорежиссёр Иван Александрович Пырьев… Он посмотрел отснятый материал и сказал: „Лёнечка, милый мой, хороший, будущий комедийный режиссёр! Для того чтоб снимать комедию, надо иметь чувство меры. У тебя его, к сожалению, нет. Давай весь материал на монтажный стол, я тебе склею из него фильм“. И Пырьев выкинул пять частей в корзину — все наши усилия, все наши страдания, муки, переживания — всю эту беготню. Вот как был создан „Пёс Барбос“».
Между тем на волне успеха от этой картины Гайдай вскоре снял её продолжение — «Самогонщики». Идею этого фильма ему подбросил Ю. Никулин, который в цирке играл подобную интермедию вместе с М. Шуйдиным. И хотя этот фильм в СССР имел меньший успех, чем «Пёс Барбос», но его закупили 68 стран, что принесло государству около 70 миллионов рублей.