28 апреля командарм Кузнецов поставил перед 79-м стрелковым корпусом генерала С.Н. Переверткина боевую задачу взять Рейхстаг. Командир корпуса решил подстраховаться и водрузить над Рейхстагом свое корпусное знамя. Он создал из добровольцев две штурмовые группы по 20 человек в каждой и включил в состав передовых полков корпуса. Одну группу возглавил его личный адъютант майор Михаил Бондарь, вторую – старший офицер связи Владимир Маков. Макову было поручено действовать в составе 150-й, а Бондарю – 171-й стрелковой дивизии. В группе Макова знамя поручили водрузить Михаилу Минину. Под гимнастеркой он также имел и флаг 136-й артиллерийской бригады, из состава которой была вся группа.
Первому батальону капитана Неустроева, действовавшему в составе 756-го стрелкового полка 150-й стрелковой дивизии, было приказано прорваться к мосту Мольтке-младший и не дать взорвать его. Но немцы вечером 28 апреля все же подорвали этот мост. Правда, он был разрушен не полностью, и пехота имела возможность по его сваям перебираться на другой берег. И на рассвете 29 апреля подразделения батальона уже были на другом берегу водной преграды.
В ночь с 28 на 29 апреля к сражавшимся в посольском квартале бойцам Неустроева, Самсонова и Макова добавился батальон Давыдова. В здании швейцарского посольства разместился командный пункт Неустроева. К нему прибыл командир полка Зинченко и сообщил, что командир дивизии передал в полк знамя Военного совета, чтобы установить его на Рейхстаге. Затем он приказал Неустроеву атаковать «дом Гиммлера» – здание МВД, которое обороняли эсэсовцы и моряки-подводники, сброшенные сюда на парашютах в ночь на 28 апреля.
Штурмовать «дом Гиммлера» пришлось дважды. Только когда подошли подразделения старшего лейтенанта Давыдова, советские воины ворвались в его подвальное помещение. Но на первый этаж батальон Неустроева и группа Макова пробились лишь в 13.00 29 апреля.
Во время боев 28 апреля у комбата Неустроева постоянную тревогу вызывала вторая рота лейтенанта Антонова – недавнего выпускника училища, которая действовала более вяло, чем другие подразделения. Поэтому именно в эту роту комбат решил направить своего заместителя по политчасти лейтенанта А.П. Береста, имевшего большой боевой опыт и навыки командования подразделением. Так волей судьбы Алексей Прокопьевич Берест оказался в составе той группы, которой предстояло водрузить Знамя Победы над Рейхстагом.
Правда, впереди были еще тяжелые бои. Вместе с основными подразделениями батальона лейтенант Берест с группой бойцов перебежали на другой берег и залегли на мостовой. По сигналу замполита бойцы атаковали дом, оказавшийся швейцарским посольством. Бросив гранату в подвал и нырнув в клубы дыма, Берест свалился вниз и очутился лицом к лицу с четырьмя немцами. Но следом за ним прыгнул еще один солдат, и гитлеровцы подняли руки.
Бои в здании МВД шли весь день 29 апреля. И только к 6 часам утра следующего дня, когда подошли свежие силы 674-го стрелкового полка, «дом Гиммлера» удалось очистить от противника.
Неустроев сразу же переместил свой штаб в «дом Гиммлера». Оттуда хорошо была видна Королевская площадь, в глубине которой стоял Рейхстаг. Из окон этого здания, обложенных кирпичом, торчали стволы пулеметов и скорострельных пушек. В парке, примыкавшем к площади, виднелись замаскированные зенитные орудия и самоходные установки «фердинанд». Перед Рейхстагом проходил широкий канал. Под прицелом был каждый метр площади. Рейхстаг обороняли отборные части гитлеровцев общей численностью около шести тысяч человек.
Штурмовали Рейхстаг выдвинутые в первый эшелон и оказавшиеся на острие атаки три спешно доукомплектованных батальона. Их расположение было следующим: в центре по направлению от «дома Гиммлера» на Рейхстаг действовали батальоны 150-й стрелковой дивизии Неустроева и Давыдова. На стыке между ними находилась группа Макова. Левее, со стороны швейцарского посольства – батальон из 171-й стрелковой дивизии полковника Негоды, которым командовал старший лейтенант Самсонов. Здесь же находилась и вторая штурмовая группа майора Бондаря.
Первая атака советских войск на Рейхстаг была отбита шквальным огнем противника. Батальону Неустроева пришлось возвращаться по-пластунски в казематы «дома Гиммлера». Но советское командование по соображениям престижа или другим причинам не стало ждать темноты, когда скрытно можно было подойти к Рейхстагу. Примерно в 13 часов 30 апреля батальоны Неустроева и Давыдова снова были подняты в атаку, но и эта попытка не дала положительного результата.