Своему единственному наследнику Карл V готовился передать все владения, включая германскую империю. Укрепление политического положения Карл стремился добиться путем выгодных династических браков принца. Первая жена Филиппа, португальская инфанта Мария, прожила недолго: она умерла после того, как произвела на свет наследника. Овдовевший Филипп намеревался из политических расчетов жениться на другой португальской принцессе, но Карл V, нуждавшийся в английских деньгах и солдатах, задумал женить принца на королеве Марии Тюдор, которая была старше его на 12 лет и считалась очень некрасивой. Филипп, как послушный сын, согласился на это без всяких колебаний. Тем влиянием, которое Филипп приобрел на Марию, он пользовался только для своих политических целей, требуя от нее больших жертв, за которые не вознаграждал ее даже внешними знаками внимания. Третья супруга, Елизавета Валуа, напротив, внушала Филиппу сильную симпатию своей молодостью, изящными манерами и скромностью. К несчастью, брак с ней тоже был недолог. Сильным потрясением для королевского семейства стала душевная болезнь сына Филиппа от первого брака, дона Карлоса. Болезненный от рождения наследник с самого раннего детства отличался неуравновешенным нравом и был склонен к бессмысленным и необузданным поступкам, часто идя наперекор воле отца. Его состояние особенно ухудшилось в результате падения с лестницы, после которого доктора всерьез опасались за его жизнь в течение целого месяца. Обострившиеся признаки умопомешательства наследника, который решил бежать в Германию, а оттуда пробираться в Нидерланды, чтобы начать борьбу против отца, заставили Филиппа, запереть его в одной из дальних комнат дворца и держать там в строгом заключении. Вскоре после этого дон Карлос скончался, что спасло Филиппа и Испанию от назревавшего глубокого внутри – и внешнеполитического кризиса.
У современников в Испании не было никаких сомнений в том, что решительные действия Филиппа II были вызваны государственной необходимостью и защитой династических интересов. Одновременно они дали материал для запущенной его противниками политической пропаганды, которая в виде так называемой «legenda negra» («мрачная легенда») прошла по всей Европе. Отзвуки ее послужили основой для таких известных произведений немецкой литературы, как «Дон Карлос» Фридриха Шиллера, «Юность и зрелость короля Генриха IV» Генриха Манна, «Тонио Крюгер» Томаса Манна и др. Через несколько месяцев после принца Карлоса, на 23-м году жизни, умерла Елизавета. Так как у Филиппа не было сыновей, то необходимость иметь наследника заставила его поспешить с вступлением в новый брак. Он женился на приехавшей из Вены красивой эрцгерцогине Анне, которой было только 21 год. От нее родился тот болезненный ребенок, не имевший ни личной воли, ни ума, который впоследствии царствовал под именем Филиппа III.
Имея принципиально те же цели, что и его отец, Филипп II изменил и модернизировал инструменты и методы осуществления своей политики. В 1561 г. Он избрал своей резиденцией Мадрид, вблизи которого по его распоряжению с 1563 по 1586 г. был возведен Эскориал – символический центр его владычества, сочетавший в себе королевскую резиденцию, монастырь и династическую усыпальницу. С переносом двора и центральных органов власти в Мадрид Филипп осуществил для Испании то, что во Франции и Англии уже было завершено. С этого момента Мадрид стал превращаться в испанскую столицу. В отличие от отца, который постоянно переезжал из одной страны в другую и сам участвовал в походах, Филипп все время проводил в кабинете; ему нравилось думать, что, не выходя из комнаты, он правит половиной земного шара. Он любил неограниченную власть еще более страстно, чем его отец, продолжив оформление в Испании абсолютной монархии.
Важнейшими центральными органами власти в период правления Филиппа II стали Советы, которые развивались в Кастилии из Королевского совета со времени Фердинанда и Изабеллы. Часть Советов обладала весьма емкими функциями: Государственный совет – важнейший орган решения внешнеполитических дел; Финансовый совет, ответственный за решение финансовых вопросов; окончательно оформившийся лишь при Филиппе Военный совет. Надрегиональную компетенцию имел созданный еще в 1483 г. Совет Инквизиции, который стал важнейшим центральным органом монархии Филиппа. Другие совещательные органы имели преимущественно региональную компетенцию, например Советы Кастилии, Арагона и заморских территорий. В 1555 г. из Совета Арагона выделился в самостоятельный орган Совет Италии. Совет Португалии (1582) и Совет Нидерландов (1588) Филипп создавал при появлении нового круга задач и соответственно возникновении чрезвычайно актуальных проблем.