Затруднения появились, как только император испустил последний вздох. Его сын, присутствовавший при его смерти, вдруг понял, что знать не придавала большого значения ни его коронации в Эксе в 961 г., ни его коронации в Риме, произошедшей шестью годами позже. Они принесли ему клятву верности, показав таким образом, что в их глазах обряды, которые Оттон I в свое время считал необходимыми, были хороши, только чтобы назначить преемника, но он не мог вступить в должность, пока высокая аристократия не высказала бы своего желания. Часть верховной власти, которую умерший правитель приобрел, исчезла вместе с ним.
Двоюродный брат Оттона II Генрих, прозванный Сварливым, сын того, кто в 936 г. пытался сместить Оттона I, последовал отцовскому примеру, найдя сообщников. Обуздать его было нелегко. Это заняло пять лет. Бавария, герцогом которой был Генрих, лишилась Каринтии; герцог Богемский, который присоединился к мятежникам, также вынужден был сдаться. Утихшие было беспокойства внутри королевства вновь возникли на его западной границе. Король Франции Лотарь счел возможным извлечь выгоду из неприятностей своего кузена. В 978 г. он захватил Лотарингию и Ахен и, чтобы показать свои намерения, развернул на восток орла, венчавшего придворную часовню. Ответ не заставил себя ждать. Оттон II приказал своим воинам спеть «Аллилуйю» на холме Монмартра, и Лотарь в 980 г. отказался от своих претензий. В то же время королева-мать Аделаида, не смирившись, что ей пришлось оставить ведущие позиции, согласилась примириться с императором, лишь когда аббат Клуни Майоль убедил ее в этом.
Наконец, смута, на первый взгляд, была преодолена. Оттон II думал, что сможет заняться Италией. Смерть герцога Пандольфа Железной Головы в Беневенте обнаружила те слабые места, которыми отважились воспользоваться грозные соседи. Сарацины участили вторжения на юг полуострова. Византия казалась неспособной их остановить. Оттон II подумывал о том, чтобы заменить слабеющего басилевса. Он собрал армию из двух тысяч бронированных всадников, большинство из которых предоставили епископства и монастыри империи. Уверенный в своем могуществе, Оттон думал, что может не бояться императора Востока. Отказавшись от предосторожностей своего отца, он назвал себя «великим императором римлян», затем он практически молниеносно переправился из Тарента в Котрон, где 13 августа 982 г. сарацины нанесли ему ужасное поражение, в последний момент ему удалось избежать плена. Эта неудача серьезно не отразилась на власти императора. Представители знати, прибывшие из Германии и Италии, не стали рассматривать его политику на съезде, состоявшемся в Вероне в мае 983 г. Они избрали королем его сына Оттона, которому исполнилось только три года. Было принято решение, короновать его в Ахене, и с этой целью пригласить одновременно архиепископов Майнцского и Равеннского, чтобы ясно показать союз обоих королевств юга и севера. Церемония состоялась только 25 декабря. 7 декабря внезапный приступ горячки унес жизнь императора. Ему исполнилось лишь двадцать восемь лет.
Его смерть была трагична не только для его близких родственников, еще очень молодой супруги и сына, маленького мальчика, который был коронован в соответствии с принятым решением в Вероне, около трех недель спустя после того, как его отец испустил последний вздох, но прежде, чем новость достигла Ахена. Империя была полностью потрясена этой неожиданной кончиной.
Части стройного здания, возведенного Оттоном I и его соратниками на востоке королевства, стали рушиться. Славяне, с 980 г. начавшие свои восстания, почувствовали прилив новых сил после поражения при Котроне, эхо которого докатилось и до них. Они начали восстание против Саксонской династии и навязываемого им христианства. Они разрушили Бранденбургское и Хавельбургское епископства и угрожали Магдебургу. Когда они узнали, что король — это просто ребенок, их набеги возобновились с новой силой; епископства Шлезвиг и Ольденбург были также уничтожены. Благодаря датчанам лужицкие сербы продвинулись вплоть до Гамбурга. За Эльбой не существовало больше немецкого присутствия, за исключением форпоста в Мейсене.
Внутри королевства снова был оспорен принцип наследования по прямой линии. Герцог баварский Генрих Спорщик заставил вверить его попечению маленького Оттона. Он начал с того, что провозгласил себя регентом, а затем, настаивая на том, что он был внуком Генриха I и королевы Матильды, стал претендовать на королевскую власть. И он действительно был избран знатью, пораженной масштабом бедствия за Эльбой, считавшей необходимым, чтобы во главе королевства стоял зрелый человек. Выборы прошли у истоков династии, в Кведлинбурге около могилы Генриха I и Матильды. Но Генрих Сварливый не был коронован. Епископы, также полагавшие вначале, что выбор главы государства, способного сразу же действовать, был необходим, впоследствии пришли к выводу, что даже если Оттон III и не может самостоятельно принимать решения, то у его матери и бабушки есть качества, необходимые для управления государством за него.