В начале войны за Испанское наследство Карл выставил свои претензии на испанский престол. Валенсия и Каталония приняли его сторону добровольно, а Барселона была взята штурмом. В 1703 г. Карл провозгласил себя испанским королём. Его поддержали жители Гранады и Арагона, но главная часть Испании – Кастилия – сохранила нерушимую верность внуку Людовика XIV, герцогу Анжуйскому, который короновался в Мадриде под именем Филиппа V. В марте 1706 г. Филипп осадил Барселону, но вскоре был отбит от города с большими потерями и перенес столицу в Бургос. Союзники вступили в Мадрид. Горожане встретили их очень враждебно. Карл даже не успел приехать в столицу, так как в октябре она снова была захвачена сторонниками Филиппа. В 1707 г. Карл потерпел тяжелое поражение подле Альманцы. Но вскоре французские войска должны были покинуть Испанию, и Карл поспешил воспользоваться этим. В 1710 г. он вновь двинулся из Барселоны на Мадрид и у Сарагосы нанес Филиппу полное поражение. Тот отступил в Вальядолиду. Карл вошёл наконец в Мадрид, но встретил здесь только общее молчание, грусть и явные выражения недоброжелательности. Положение его было очень непрочным. Его армия страдала от голода. В декабре у Виллавичиозы она потерпела поражение от кастильцев, и Карл должен был отступить.
Между тем в апреле 1711 г. умер, не оставив наследников, старший брат Карла, император Иосиф I. Карл поспешил во Франкфурт и 22 декабря возложил здесь на себя императорскую корону. После этого ему уже нельзя было думать об испанском престоле, поскольку европейские державы никогда бы не допустили такого чрезмерного усиления Габсбургов. К тому же успех решительно перешел на сторону Филиппа – его полководцы захватывали одну область за другой. Англия и Голландия заключили с ним в 1713 г. мир и признали законным испанским королём. Таким образом, Испания осталась за Бурбонами, но и Габсбурги вышли из этой войны с крупными приобретениями. По Раштадтскому миру 1714 г., Филипп должен был уступить императору Неаполитанское королевство, остров Сардинию, Тоскану, Миланское герцогство и Бельгию. Мир этот, впрочем, не был прочным. Испанцы очень жалели о потере своих европейских владений, особенно в Италии, а Карл упорно продолжал именовать себя «испанским королём». В 1717 г. война возобновилась. В августе испанцы овладели Сардинией. Англия, Франция и Австрия опять объединились против Филиппа. В августе 1718 г. англичане разбили испанский флот близ Сиракуз. В 1719 г. французские войска перешли Пиренеи. В январе 1720 г. Филипп V объявил, что готов заключить мир. По Кокпитскому договору Сардиния перешла к Савойской династии, а Карл получил вместо неё Сицилию. После этого отношения с Испанией стали улучшаться, и в 1725 г. Карл отказался от претензий на испанскую корону. Одновременно шла война с Турцией. В августе 1716 г. принц Евгений одержал большую победу у Петер-вардейна, неподалеку от Белграда. В 1717 г. австрийцы взяли сам Белград. В 1718 г. был заключен Пассаровицкий мир, по которому к Австрии отошла северная Сербия с Белградом и Семендрией, Банат и Малая Валахия.
Карл считался способным государем. Он был достаточно умен, осмотрителен, но не обладал большой прозорливостью. Нерешительный в действиях, он в своих планах проявлял упорство и твердость, старался править гуманно и имел много добрых намерений. Справедливо восхваляют его любовь к музыке и пластическим искусствам. Он старался украсить Вену, привлекая туда художников, и усердно поощрял поэтов и писателей. В молодости он объехал всю Европу, побывал в Голландии, Англии, Португалии, Испании и оценил важное значение торговли для благосостояния страны. По его приказу прокладывались новые дороги, развивались адриатические порты и был построен небольшой флот на Дунае. Впрочем, глубоких следов эта деятельность не оставила. К несчастью, император не имел при себе способных сотрудников и не умел находить их. В конце концов охота, музыка, мелкая благотворительность и пустые церемонии стали поглощать все время императора. Под испанским влиянием при венском дворе воцарился такой чопорный этикет и такая безумная роскошь, каких не бывало ни до, ни после. Сдержанные манеры придавали императору облик высокомерного человека, но в интимном кругу он обнаруживал такую теплоту и сердечность, что подкупал ими всякого.