Изначально в упоминаемом имени девушки (Лили Марлен) Ляйп скомбинировал два женских имени: Лили — скорее всего, прозвище, которое носила его подружка, и Марлен — имя молодой медицинской сестры, с которой он познакомился в одном из военных госпиталей. Именно эти две девушки прощались с ним в апреле 1915 года перед отправкой на фронт.
На апогее успеха песни «Лили Марлен», который приходился на 1942-1943 годы, в немецком солдатском журнале «Эрика» пытались найти фото этих двух девушек, которые вдохновили Ганса Ляйпа написать эти слова. В итоге сложилась парадоксальная ситуация — в журнале оказалось едва ли не несколько десятков фотографий девушек, которые «претендовали» на то, чтобы стать «Лили» и «Марлен».
Но вернемся в довоенный период. Норберт Шульце положил на музыку всего около 10 стихотворений Ганса Ляйпа. Все они отличались напевностью и мелодичностью. Впрочем, именно это обстоятельство не понравилось заказчику. «Слишком мягко, слишком лирично, более годится для девиц. Мне же нужно что-то мужское, мужественное. К сожалению, для меня это не подходит». Таков был ответ Яна Беренса, известного своим густым басом. Позже, пытаясь записать свои творения, Норберт Шульце столкнулся с тем, что они не устраивали и звукозаписывающие компании Третьего рейха. Впрочем, этому находилось некоторое объективное объяснение Шульце не был эстрадным композитором, который привык сочинять шлягеры, он специализировался на «серьезной музыке». В определенных музыкальных кругах то ли в шутку, то ли всерьез его звали маленьким Моцартом. В итоге Норберт Шульце был вынужден предложить свои творения для исполнения своей старой приятельнице Лизелотте Вилькс, которая под сценическим псевдонимом Ляле Андерсон на тот момент выступала в Берлинском театре «Кайзерхоф». Некоторые исследователи пытаются «сделать» Ляле Андерсон шведкой или датчанкой, но все эти попытки являются тщетными. Ляле Андерсон была немкой — Лизелоттой Хеленой Бертой Ойлалией Банненберг, родившейся в 1905 году (по другим источникам, в 1910 году) в Бремерхафене.
Песня «Лили Марлен» не стала для нее открытием. Она исполняла ее, еще выступая в качестве певицы в кабаре «Зимпь». Отличие состояло в том, что на тот момент стихи были положены на музыку Рудольфа Цинка, с которым она познакомилась в Мюнхене. Теперь же ей предстояло исполнять версию Норберта Шульце. Летом 1939 года «Лили Марлен» вошла в ее постоянный репертуар и песня оказалась даже записанной на пластинку звукозаписывающей фирмой «Электролла» (грампластинка EG 6993). Нa стороне Б этой пластинки как раз и оказалась записана «Лили Марлен» («Песня молодого часового»). Первый тираж пластинки с «Лили Марлен» составил всего лишь 700 экземпляров.