Стоявшие перед Генрихом II задачи требовали совершенно прагматичного подхода к их решению, исключавшего какие бы то ни было иллюзии. Поэтому вполне понятно, что в своей деятельности он сразу же стал ориентироваться на традиции Карла Великого и Оттона I, сменив курс непосредственного предшественника — Оттона III. Для всякого рода концепций, предполагавших возрождение универсальной христианской Римской империи и столь безраздельно захвативших его предшественника на германском престоле, теперь уже не могло быть места. Во многих важнейших направлениях политики должна была произойти радикальная переориентация, наиболее наглядным внешним проявлением которой служило изменение с 1003 года девиза на королевских буллах: вместо «Возрождение империи римлян» («Renovatio imperii Romanoram») Оттона III — «Возрождение королевства франков» («Renovatio regni Francoram»). Сосредоточение на внутренних проблемах Германского (или, по каролингско-оттоновской традиции, Франкского, Восточно-Франкского) королевства стало велением времени. Вместе с тем это не означало отказа от прежней имперской политики, поскольку и принятый Генрихом II лозунг оставался в русле старой традиции каролингских правителей, с которой было сопряжено и притязание на императорское достоинство. Однако центр Империи теперь должен был переместиться из Рима к северу от Альп — в Германию. На имперскую политику Генриха II оказывали значительное влияние антиримские и антиитальянские настроения в Германии, особенно в Саксонии, с которыми он не мог не считаться. Генрих II продолжил имперскую политику своих предшественников, однако возвратил ее, образно говоря, в «нормальное русло», проложенное еще Оттоном I и отвечавшее представлениям народа о политике своего короля. Генрих II мыслил как политик-реалист: сначала надлежало утвердиться в самой Германии как властном центре Империи, затем стабилизировать положение в Северной Италии и пограничных регионах, а Рим и императорская корона могли подождать.
О том же свидетельствовали и настроения среди его итальянских подданных. Еще вечером дня своей коронации Генрих II имел возможность убедиться, что его господство здесь терпят лишь постольку, поскольку он в состоянии утверждать и поддерживать его. Внезапно вспыхнувшая пьяная ссора немцев с жителями Павии переросла в настоящее восстание местных против чужеземцев. Несколько часов подряд шла ожесточенная битва, город горел. В конце концов немцы одержали верх и по праву победителя стали грабить и убивать, пока король, сам вынужденно покинувший Павию и укрывшийся в расположенном по соседству укрепленном монастыре, не прекратил бесчинства и не дал прощение молившим о пощаде.
Однако и этот инцидент не помешал итальянским магнатам, продолжавшим прибывать к Генриху II, присягать на верность ему. Так не предполагавшееся заранее жестокое покорение Павии способствовало временному укреплению господства немецкого короля, сумевшего нагнать страху, зато запятнало его имя в глазах итальянцев. Словно желая реабилитировать себя, Генрих II демонстрировал собственное благочестие, поклонившись в Милане могиле Св. Амвросия, а также осыпал привилегиями своих сторонников. Его главными советниками в Италии были епископ Верчелльский Лев и маркграф Каноссы Тедальд. Во многих епископствах Генрих II заменил предстоятелей на верных себе людей. Правда, Иоанну XVIII, занимавшему тогда престол Св. Петра и пригласившему его в мае 1004 года прибыть в Рим, он был вынужден ответить отказом, поскольку, как заметил Титмар Мерзебургский, испытывал «сопротивление различных врагов». Подобного рода здравомыслие роднило Генриха II с Оттоном I. Щедро награждая тех, кто помогал ему обрести Итальянское королевство, он тем не менее в Италии (впрочем, как и в Германии) пока что довольствовался временным урегулированием дел и уже в середине июня 1004 года возвратился домой, где тяжелые проблемы на восточной и западной границах Империи, доставшиеся в наследство от предшественника, всецело поглотили его внимание почти на десять лет.
События на границе Франции и Германии послужили предпосылкой для совместных действий Генриха II с французским королем Робертом II Благочестивым. В 1005 году умер бездетным герцог Нижней Лотарингии Отто, вместе с которым окончательно сошла с исторической сцены Каролингская династия. Воспользовавшись случаем, Балдуин IV, граф Фландрский, завладел Валансьеном. В борьбе против правителя Фландрии Генрих II считал весьма желательными совместные действия с королем Франций и потому направил в Париж престарелого епископа Нотгера Люттихского, хорошо осведомленного относительно положения дел на Западе и служившего советником еще у императрицы Феофано. Видимо, по результатам проведенных им переговоров оба короля встретились в 1006 году близ Музона-на-Маасе и договорились о совместном походе во Фландрию.