После «Иванова детства» Тарковский поверил в необязательность для кино длительной профессионализации актеров. У него снимались: Жариков — студент ВГИКа, ученик С.А. Герасимова; Малявина — студентка первого курса школы-студии МХАТ; Коля Бурляев — школьник; Кончаловский и Тарковская — режиссеры.
Валентина Малявина всем своим обликом противоречила той медсестре, которую представил себе Богомолов. По рассказу это полная белокурая девушка с высокой грудью и голубыми глазами. Подобной на кинопробах так и не нашли.
И вот появилась Валя Малявина. Брюнетка, карие глаза, мальчишеский торс. Но она принесла то особенное и личное, интересное и неожиданное, чего не было в рассказе. Малявина выглядела такой наивной, чистой, простой, доверчивой, что сразу становилось ясно: Маша — Малявина совершенно безоружна перед лицом войны. Это давало возможность построить ее отношения с капитаном Холиным (актер В. Зубков), которого обезоружила ее незащищенность.
Группа выехала на съемки в Канев, на Днепр, на места подлинных событий. Даже то, что предполагалось первоначально снимать в декорациях павильона — КП батальона и разведотдела, — было снято на натуре. Лишь один эпизод фильма — свидание Холина и Маши в березовой роще — снят был под Москвой.
Жили в современной гостинице на высоком берегу Днепра. Над гостиницей, на самой вершине горы, был похоронен Тарас Шевченко.
Погода была неважная, шли дожди. Исполнитель роли Ивана не отличался крепостью, матери Коли Бурляева пришлось испрашивать длительный отпуск, чтобы в трудных условиях съемок следить за его здоровьем.
Как часто водится в кино, в первый съемочный день снимали заключительные кадры фильма: «Последний сон Ивана», игру с детьми в прятки около вкопанного в песчаную днепровскую косу уродливого, черного, обгорелого дерева. Выдался солнечный день. С юмором, весело, легко отсняли за день довольно большой метраж, в том числе сцену с матерью Ивана, роль которой исполняла Ирма Тарковская, первая жена режиссера.
Но это было только начало. Николай Бурляев вспоминал о своей работе с Тарковским: «Он добивался полной правды, а не игры. У него приходилось играть сцены, лежа в леденящей мартовской грязи, ползать в холодных осенних болотах, иногда проваливаясь по горло, в одежде и ботинках переплывать студеный ноябрьский Днепр… И все же работа с Тарковским вспоминается как увлекательнейшие счастливые путешествия под руководством озорного, остроумного человека. Его юмор снимал напряжение, завораживал окружающих, облегчал физические трудности».
Один из самых кинематографически неотразимых эпизодов фильма — переправа — переход через реку, долгий, медленный, мучительный. Как удалось все это снять? Вадим Юсов говорил:
«Однажды, еще в начале экспедиции, мы ехали, уже зная, что снимать будем в этих местах, но еще не зная, как снимать этот эпизод, — и из окна автобуса я заметил на горизонте этот мертвый лес… Какими-то обходными путями мы нашли это место. Оказалось, колхоз построил плотину, чтобы разводить утей. Но рельеф местности они не учли, затопили участок леса, и он погиб.
Это была удивительная фактура плюс еще вода, покрытая мелкой ряской…»
Рассказ Богомолова написан от лица молодого лейтенанта — героя, занявшего столь существенное место в литературе о войне, — и содержит несколько случайных встреч с Иваном — двенадцатилетним разведчиком, все близкие которого погибли. Фильм Тарковского по отношению к рассказу снят с обратной точки: не Иван на войне увиден глазами лейтенанта, а лейтенант и война — все увидено как бы глазами Ивана.
У Богомолова лейтенант обрывает историю юного разведчика на середине, потому что больше ничего не знает о нем. Эпилог рассказа. Рейхстаг как опознавательный знак победы, немецкая хроника… Лейтенант Гальцев, единственный уцелевший из героев фильма, листает «дела» убитых в гестапо и видит на одной фотографии — черное и ненавидящее, с кровоподтеком под глазом, лицо Ивана…
История героя завершается в гестапо, но фильм кончается сном Ивана. Снова улыбающееся материнское лицо, белый песок, девочка и мальчик, вбегающие в светлую водную гладь, и черное дерево, входящее в кадр как грозный, предупредительный знак…
Андрей Тарковский объяснял:
«Иван — это ребенок, снедаемый страстью взрослого. Он потерял детство на войне и погиб, потому что жил как взрослый. Картина должна строиться на характере мальчика, но должны быть эпизоды, где выясняются его детские черты. В рассказе найдена точная деталь — игра в войну — что может быть страшнее!
…Здесь все очень глубоко, страшно и правдиво, здесь нет места приключенческой романтике. Мальчик здесь не должен быть гордостью и славой, он горе полка. Они мучаются, когда он уходит на «ту» сторону. Только взрослая страсть мальчика заставляет их мучиться с ним».
К 18 января 1962 года съемки были закончены. 30 января Тарковский показал первый вариант фильма.