После прорыва советских войск в глубь Крымского полуострова командование 17-й немецкой армии и группы армий «Южная Украина» пришло к заключению о неизбежности полной эвакуации войск из Крыма: боеспособность немецких соединений значительно снизилась, румынские части находились на грани расформирования. Собственно, эвакуация началась еще 12 апреля. В первую очередь вывозились тыловые службы, транспортные части, солдаты Восточного легиона, военнопленные и гражданские. К 20 апреля удалось эвакуировать 67 000 человек — в среднем 7000 в день. Соединения 1-го авиакорпуса еще базировались внутри укрепленного района и обеспечивали надежное прикрытие с воздуха. Действия советской авиации в этот период немцы характеризуют как «сверхосторожные» и не наносившие особого урона. «Еще более важным являлся тот факт, что весь апрель и советский Черноморский флот не смог нанести ни одного значительного удара по немецким конвоям. Операции его подводных лодок были слабыми, в них никогда не участвовало более пяти-восьми лодок одновременно, что не позволяло достичь успеха, вследствие героических действий немецких противолодочных сил. Советские торпедные катера атаковали только ночью и не добивались результата. Главные силы советского Черноморского флота продолжали стоять в своих потайных местах. В результате прекрасно оборудованный порт Севастополь можно было использовать с максимальной нагрузкой. Все выглядело обнадеживающе».
Но Гитлер не согласился с решением штаба 17-й армии и категорически потребовал удерживать «последнюю крепость готов», оставив на полуострове всех, кто способен сражаться. Он снова исходил прежде всего из политических соображений: «Для того чтобы вести войну, мне прежде всего нужны две вещи — румынская нефть и турецкий хром. Если я сдам Крым, потеряем и то и другое». Кроме того, фюрер считал, что в случае эвакуации морем можно было спасти лишь разрозненные соединения, тогда как высвободившиеся крупные силы советских войск были бы использованы через короткое время на других участках фронта. Перед войсками, оставленными в Севастополе, была поставлена задача: сковывать силы противника и нанести ему как можно большие потери. 24 апреля эвакуация была прекращена. Из Румынии морем и по воздуху было подвезено около 6000 немецких солдат и офицеров. На место генерала Енеке, не верившего в возможность удержания Севастополя, 1 мая фюрер назначил командира 5-го армейского корпуса генерала Альмендингера. Генерала Конрада на должности командира 49-го горнострелкового корпуса сменил генерал Гартман по кличке Железный Густав.
Для обороны была использована мощная система укреплений на подступах к городу, состоявшая из трех полос. Наиболее сильными узлами сопротивления являлись Мекензиевы Горы, Сахарная Головка и особенно Сапун-гора, запиравшие все подступы к Севастополю и господствовавшие над окружающей местностью. В частности, на Сапун-горе имелось шесть линий траншей, прикрытых противопехотными и противотанковыми заграждениями в несколько рядов.
17-я армия имела в своем составе остатки пяти немецких и трех румынских дивизий. По данным штаба 4-го Украинского фронта, она насчитывала 72 000 солдат и офицеров, около 1830 орудий и минометов, 50 танков и штурмовых орудий и до 100 боевых самолетов. Тяжелую артиллерию сохранил только 49-й корпус.
Все советские войска, вышедшие к Севастополю, 18 апреля были объединены под единым командованием. Отдельная Приморская армия была преобразована в Приморскую армию и включена в состав 4-го Украинского фронта. Командармом ее был назначен генерал-лейтенант К.С. Мельник. Фронт имел 253 000 человек, 5333 орудия и миномета, 106 танков и САУ.
В соответствии с планом, утвержденным маршалом Василевским, главный удар наносился левым флангом 51-й, правым флангом и центром Приморской армии на участке Сапун-гора, высоты севернее Карани. Удар в этом районе позволял использовать танковые войска, поскольку местность здесь носила менее пересеченный характер. Разгром врага на Сапун-горе при всей трудности ее штурма сразу давал нашим войскам решающее преимущество: оборона противника теряла свою устойчивость.
Вспомогательный удар наносился в полосе 2-й гвардейской армии. При этом с целью отвлечения внимания противника этот удар намечалось начать на двое суток раньше главного. Армия Захарова должна была прорвать оборону в районе юго-восточнее Бельбека и нанести удар в направлении Мекензиевы Горы — восточный берег Северной бухты, прижать противника к морю и уничтожить его. Затем форсировать Северную бухту и овладеть восточной частью Севастополя.
8-й воздушной армии, имевшей 1023 самолета, ставилась задача сосредоточить большую часть сил сначала в полосе 2-й гвардейской, а потом в полосе левого фланга 51-й и Приморской армий. Для ударов по обороне противника привлекались также 2, 3 и 4-й гвардейские бомбардировочные корпуса и 50-я бомбардировочная дивизия 6-го бомбардировочного корпуса дальнего действия. Всего они имели 567 самолетов.