Конев решил форсировать канал одновременно тремя корпусами на широком фронте. Но для успешного прорыва нужно было на главном направлении создать мощный артиллерийский таран, способный пробить наверняка все, что противостояло наступавшим войскам. Только так можно было открыть дорогу прямо в Берлин. Поэтому Конев еще раньше перебросил на направление главного удара артиллерийский корпус прорыва, две артиллерийские дивизии. 3-ю гвардейскую танковую армию поддерживал истребительный авиакорпус. В результате на главном участке прорыва протяженностью четыре с половиной километра было сосредоточено около трех тысяч орудий, минометов и самоходных установок. Шестьсот пятьдесят стволов на километр фронта! Такого еще не было за всю войну.
Конев лично прибыл на КП Рыбалко, чтобы своими глазами наблюдать за форсированием Тельтов-канала. С крыши восьмиэтажного дома хорошо был виден Берлин. Конев прикидывал в уме, как скажется впереди лежавшая местность на действиях войск: массивные здания, превращенные в опорные пункты, каналы, реки и речки, пересекающие Берлин в разных направлениях.
Форсирование прошло успешно, и уже в 10.30 утра танкисты завязали бои в берлинских пригородах, а вскоре войска 1-го Украинского фронта соединились с передовыми частями 1-го Белорусского фронта. К вечеру 24 апреля Берлин был полностью окружен советскими войсками. Начался штурм столицы гитлеровского рейха.
В те дни — перед непосредственным штурмом Берлина — Конев часто бывал в войсках, но все же большую часть времени проводил на своем передовом командном пункте.
Особенно большая работа была связана с докладами командиров, которые обычно начинались с двадцати одного часа и продолжались почти до двух часов ночи. А в промежутках между докладами надо было давать указания штабу, выслушать итоговый доклад начальника штаба фронта генерала армии И. Е. Петрова, прочесть, скорректировать и подписать донесение в Ставку, которое должно было быть готовым к двум часам ночи. Спал маршал с 2 часов ночи до 6 утра. Много времени отнимали вопросы, связанные с действиями авиации. Как правило, командующий фронтом ежедневно ставил авиации задачи на следующий день, исходя из общего плана операции и из тех корректив, которые за день вносила обстановка, какие-то цели отменив, а какие-то добавив.
Вспоминая об этих днях, Конев писал: «Память, в том числе и зрительная, была у меня настолько обострена, что все основные направления, все географические и даже главные топографические пункты всегда как бы стояли перед глазами. Я мог принимать доклад без карты; начальник оперативного отдела, докладывая, называл пункты, а я мысленно видел, где и что происходит. Мы оба не тратили время на рассматривание карты; он лишь называл цифры, связанные с упоминаемыми им пунктами, — нам обоим было все ясно.
Конечно, эта ясность от крайнего напряжения памяти, но такой порядок докладов настолько отработался в нашей боевой практике, что лично я этого напряжения даже не замечал».
3-я гвардейская танковая армия и один из корпусов вошедшей в состав фронта 28-й армии 25 апреля начали ожесточенные бои в самом Берлине — в его южной части. На долю танкистов выпала необычная для них задача — штурмовать укрепленный город, брать дом за домом, улицу за улицей. Здесь пригодился опыт Сталинграда, и вообще боев в городах. Сопротивление врага было упорнейшим. Пришлось брать с бою каждый дом, да еще в условиях, когда фашисты были обильно вооружены таким опасным для танков оружием, как фаустпатроны.
Новые условия требовали и новой техники. И здесь снова Конев использовал опыт, накопленный ранее. Были созданы штурмовые отряды. В каждый такой отряд входило от взвода до роты пехоты, три-четыре танка, две-три самоходки, две-три установки тяжелой реактивной артиллерии, группа саперов с мощными подрывными средствами и несколько орудий артиллерии сопровождения для стрельбы прямой наводкой. Квартал за кварталом отбивали у врага советские воины. Навстречу им шли все увеличивающиеся потоки освобожденных из неволи людей. Шли русские, французские, английские, американские, итальянские, норвежские военнопленные, угнанные из разных стран мужчины, женщины, подростки: изможденные, усталые, полураздетые. Шли со своими наспех сделанными национальными флагами, тащили свой скарб, свои немудреные пожитки. Они радостно приветствовали советских солдат, встречные машины, кричали что-то каждый на своем языке.