Однако даже несмотря на такую обструкцию, учиненную им на партсобрании, Чухрай и Ежов продолжали работать над сценарием. Работали упорно и не жалея себя. Задумав сделать фильм о войне без войны, авторы в то же время понимали, что именно это у них и не получается. Отдали сценарий в мастерскую Михаила Ромма, чтобы проверить свои сомнения. Ромм сказал, что сценарий не получился, подтвердив тем самым самые худшие опасения авторов. Они стали думать, как исправить положение. Спасение пришло из глубин памяти Чухрая. Он вспомнил своего однополчанина, который отличился в бою. Когда Чухрай спросил его, как это произошло, тот признался: «Я очень испугался». Так в сценарии появился пролог, где Алеша Скворцов с испугу подбивает два фашистских танка. Для советского кинематографа это был настоящий прорыв: до сего дня все персонажи наших фильмов на военную тему совершали подвиги исключительно по причине собственного героизма. А тут – от испуга. Но в советском кино конца 50-х уже был пример «негероического героя»: Вероника из «Летят журавли» предавала своего возлюбленного, ушедшего на фронт и выходила замуж за нелюбимого человека. К числу таких персонажей можно отнести и Андрея Соколова из «Судьбы человека»: он хоть и был настоящим героем, но из числа бывших военнопленных, которые при Сталине приравнивались к «врагам народа».
Был также дописан еще один эпизод: с матерью, которая выходит на дорогу и, вглядываясь в даль, ждет своего сына. После этого все в сценарии стало на свои места. Когда Михаил Ромм вновь взял его в руки и прочитал, он ему понравился безоговорочно. Именно он и предложил дать ему название «Баллада о солдате».
Между тем в отличие от Ромма руководству Главка по производству художественных фильмов «Баллада» не понравилась. Чухрая вызвал к себе руководитель Главка Александр Федоров. И стал горячо убеждать молодого режиссера в том, что после такого грандиозного успеха, какой выпал на долю «Сорок первого», Чухрай просто не имеет права браться за такой слабый фильм. «Люди ждут от вас чего-то такого же масштабного, значительного, а вы хотите снимать кино про безусого юнца, едущего с фронта в отпуск домой, – говорил Федоров. – И зачем едет-то: латать крышу матери. А ведь вы бывший десантник, участник Сталинградской битвы! Неужели мало в вашей памяти героических фактов, чем то, что вы придумали в «Балладе»? Это же мелко!».
Чухрай отвечал, что история, рассказанная в сценарии, совсем не мелкая. Да, она частная, но именно в этой частности вся соль. «Сколько можно снимать фильмов про генералов и писаных героев! – горячился Чухрай. – Войну выиграли не только они, но и такие мальчишки, как Алеша Скворцов». И так убежденно защищал своего героя режиссер, что Федоров сдался. И поступил очень благородно. Он сказал, что все равно остается при своем мнении, но мешать в постановке «Баллады» не будет.
7 августа 1958 года руководству 3-го творческого объединения «Мосфильма» был представлен режиссерский сценарий «Баллады о солдате». Он был принят с незначительными поправками. До начала следующего года длился подготовительный период. Во время него Чухрай нашел исполнителей на центральные роли. Алешу Скворцова должен был сыграть Олег Стриженов, который прекрасно зарекомендовал себя в предыдущем фильме Чухрая – «Сорок первом», девушку Шуру – Лилия Алешникова. Последняя в том году закончила театральное училище имени Щукина, но уже имела за плечами несколько крупных ролей в таких фильмах, как: «Они были первыми» (1956), «Это начиналось так» (1956), «Город зажигает огни» (1958).
Съемки фильма начались ранней осенью 1958 года с натурных эпизодов, которые снимались под Владимиром. Снимать начали с эпизода, где Алеша едет на машине в отпуск, а навстречу ему, к фронту, движутся колонны автомашин с солдатами (в массовке снимались местные военнослужащие из в/ч 07008). Однако работа остановилась, едва начавшись. Во время съемок проезда машины оператор Эра Савельева расположилась на капоте с ручной камерой «Конвас», а Чухрай сел на капот слева, свесив ноги. Когда киношная машина поравнялась с грузовиком, в кузове которого находились солдаты, последний внезапно потерял управление и ударил съемочный автомобиль по капоту. От удара Чухрай свалился на землю и получил серьезные повреждения: у него была сломана ключица и голеностопный сустав. Его немедленно отвезли в военный госпиталь.