Фильм предполагалось запустить в производство летом 70-го, но из-за проволочек с МВД и болезнью Серого проект был перенесен на следующий год. Поэтому подготовительный период по фильму начался в самом конце 70-го. В январе 1971 года начались актерские пробы. Поскольку к тому времени постановщики фильма отказались от первоначального варианта сценария и поменяли всех главных героев, им предстояло найти новых исполнителей. Худсовет по этим пробам состоялся на «Мосфильме», в творческом объединении «Время», в четверг, 21 января. На роль вора Доцента и заведующего детским садом Трошкина безоговорочно прошел Евгений Леонов, Георгию Вицину (Хмырь) посоветовали получше поработать над гримом, Савелию Крамарову (Косой) — следить, чтобы не выплеснулся в одном эпизоде, вместо Олега Видова (лейтенант милиции Славин) было рекомендовано пригласить Михаила Кононова (как мы теперь знаем, не пригласили). Актеры, показанные худсовету на роль Василия Алибабаевича, были все забракованы. С этой ролью вообще было больше всего мороки.
Первоначально сам режиссер и авторы сценария Георгий Данелия и Виктория Токарева видели в ней единственного актера — Фрунзе Мкртчяна. Причем сам он поначалу тоже был согласен сниматься. Однако затем ситуация изменилась. В ноябре 70-го в Армении проходили торжества, посвященные 50-летию образования республики, и Мкртчян, занятый в премьерном спектакле Театра имени Сундукяна, так и не смог вырваться в Москву на пробы. А затем и вовсе отказался от роли, видимо, не пожелав променять роль в серьезном спектакле (за нее ему обещали присвоить внеочередное звание) на роль в пустой, как он тогда считал, комедии. В итоге Серый перепробовал на эту роль множество актеров с нерусской внешностью, но худсовет их всех забраковал. Теперь предстояло продолжить поиски. А время поджимало — зимняя натура вот-вот могла сойти на нет.
Между тем к началу февраля в съемочной группе сложилась авральная ситуация: заканчивалась зима, а съемки так и не начинались. Чтобы не угробить картину окончательно (а бодяга с ее запуском тянулась уже почти год), Серый обратился к руководству «Мосфильма» с просьбой начать снимать зимнюю натуру немедленно. Ему пошли навстречу: с 8 февраля начались съемки улиц города, а с 16-го — с участием актеров. Последние съемки стали возможны благодаря тому, что наконец-то был найден исполнитель роли Василия Алибабаевича. Им стал актер столичного Театра-студии киноактера Раднэр Муратов, хорошо известный зрителю по таким фильмам, как: «Максим Перепелица» (1955), «Поединок» (1957), «Время, вперед!» (1966), «Щит и меч» (1968), «Далеко на Западе» (1969) и др. До этого он уже попадал в поле зрения Серого, но тогда ему предлагали совсем другого персонажа — крохотную роль начальника тюрьмы. Но он от нее отказался, хотя прекрасно понимал, чем ему это может грозить — актеры его театра были людьми подневольными и обязаны были соглашаться на все приглашения сниматься по наряду. В противном случае им могли на полгода снизить зарплату. Далее послушаем рассказ самого актера:
«После этого заявления вызывает меня самое высшее начальство на ковер, да еще с издевочкой: посиди в приемной полчасика, тебя вызовут. Сижу в этом коридоре и начинаю кумекать: все, полгода зарплаты не будет, что же делать? За эти полчаса я чего-то такое надумал, вхожу в самую главную дирекцию, на меня, естественно, покатили бочку: что это такое, вы тут катаетесь чуть ли не сыром в масле и отказываетесь играть. Я прямо в лоб: «Не хочу сниматься, потому что считаю, моя роль — Алибаба», — брякнул. Начальник еще больше распалился. Мол, эти роли написаны специально под Леонова, Вицина, Крамарова и Мкртчяна. Портретно под них. Полгода сценарий писали. И никаких проб нет. Я в ответ: «Актер Театра киноактера имеет право на пробу». Он немного смягчился. «Ну написано же — нет проб. Представь, это как Щукин Ленина играл». Стою на своем, тут чиновник-то и сдался. «Ладно, ничего не бойся, иди домой. Найдем мы начальника тюрьмы».
И, действительно, на роль тюремщика нашли другого исполнителя — актера-корейца, а Муратова в феврале наконец утвердили на роль Василия Алибабаевича.