В 1782 году были упразднены правительства 12 земель и вместо них созданы шесть губерний. Выборные управы были заменены правительственными чиновниками.
В Бельгии попытки реформирования привели к вооруженному противостоянию. В 1787 году весь исторически сложившийся строй Бельгии был радикально изменен, и австрийское правительство отменило все старинные учреждения страны. Было образовано министерство юстиции, а дворянство, духовенство и города лишились права иметь особые сословные суды. Представительский орган Бельгии, Штаты, перестал играть какую бы то ни было роль и, прежде всего, потерял право утверждать налоги. Однако бельгийцы готовы были взяться за оружие, отстаивая свои традиционные права.
Правительница Бельгии, сестра императора Мария Кристина, писала императору: «Любезный брат, умоляю вас на коленях, не настаивайте на принятых вами мерах, иначе эти провинции, все без исключения, предадутся такому отчаянию, что сочтут себя вправе порвать узы, связующие их с династией». В ответ Иосиф назначил одного за другим двух губернаторов, заявив: «Бельгийцы должны образумиться и покориться, иначе употреблена будет сила и зло вырвано с корнем, каковы бы ни были последствия».
Силу губернатор и применил, в Брюсселе и Антверпене дошло до кровопролития. Осенью 1789 года начались восстания в Брабанте, Брюсселе, Намюре и Генте. 27 октября австрийская армия потерпела поражение, а к концу года почти вся Бельгия была освобождена от австрийских войск. В январе 1790 года на Национальном конгрессе в Брюсселе было провозглашено образование нового государства — Соединенных штатов Бельгии.
В Венгрии тоже дела пошли не так, как предполагал император. При вступлении на престол Иосиф не захотел короноваться венгерской короной, чем обидел мадьярских дворян. По его просвещенному мнению, Венгрия ничем не отличалась от всякой другой провинции, а ее старинная конституция только мешала преобразованиям. Даже корону святого Стефана император приказал перевезти в Вену! Всюду была введена система строгой централизации, управление было преобразовано и передано в руки чиновников, государственным языком стал немецкий. Всех, кто не владел им, с государственной службы увольняли, не давая даже возможности выучить язык. В 1784 году в Венгрии было отменено крепостное право. Эти нововведения вызвали повсеместное возмущение. Дворянство уже готово было свергнуть «некоронованного» Иосифа и передать престол кому-нибудь из имперских князей. Но, наученный бельгийским опытом, Иосиф в январе 1790 году уступил венграм и аннулировал реформы, провозглашенные в 1780 году.
Беда в том, что почти никто не понимал, чего хотел Иосиф. А он был бестактным, упрямым, слишком самоуверенным и совсем не хотел приспосабливаться и учитывать многочисленные особенности своего государства.
Внешнеполитические начинания Иосифа были также безуспешны. Война за Баварское наследство в 1778–1779 годах завершилась унизительным отступлением, а Турецкая война 1788–1791 годов представляла собой непрерывный ряд неудач и поражений. Даже личное присутствие императора на фронте не изменило положения. Он отправился на войну тяжело больным. Кампания 1788 года, проведенная в жаркой и болотистой местности, окончательно доконала его, и он возвратился из похода, истощенный болезнью. Одышка в соединении с сильнейшим кашлем не давала ему покоя, так что он не мог ни лежать, ни ходить, и целые ночи проводил, сидя без сна, погруженный в тяжкое раздумье о судьбе государства. Он чувствовал, что дни его сочтены, но больше, чем смерть, угнетали его беды, постигшие отечество. Он знал, что его повсеместно обвиняют в волнениях и развале страны, но не желал принимать на себя ответственность. «Я знаю свое сердце, — писал он незадолго до своей кончины, — я убежден в глубине души в чистоте моих намерений, и я надеюсь, что, когда меня не станет, потомство рассмотрит и рассудит внимательнее, справедливее и беспристрастнее, чем современники, то, что я делал для моего народа».
Может быть, одной из причин излишнего упрямства и твердости, с которыми Иосиф II добивался модернизации своей страны, была неустроенная личная жизнь императора, одиночество и отсутствие в его жизни семейного тепла и любимых людей. Он потерял двух жен, единственную обожаемую дочь, горячо любимую мать. А вот среди многочисленных братьев и сестер у Иосифа не было близких людей. Сестры, которых он не любил за склонность к интригам, отвечали на его язвительность тем, что настраивали Марию Терезию против старшего сына. Более теплыми были отношения Иосифа лишь с Марией Антуанеттой, но постоянное вмешательство в ее жизнь посредством писем-инструкций вызывало раздражение и у нее. Не любил Иосифа II и его брат и наследник Леопольд:
«Это человек, исполненный честолюбия, который все говорит и делает лишь для того, чтобы его похвалили и чтобы о нем все говорили в свете… Он сам не знает, чего хочет, все вызывает у него одну лишь скуку… Он не терпит противоречий…»