Встретили Папу прекрасно. Император выехал навстречу его Святейшеству и сопровождал его до самых покоев в императорском дворце Хофбург. Где бы ни появлялся Папа, стекалась масса верующих, преклоняла колени, чтобы принять апостольское благословение. Когда Папа уезжал, Иосиф дал ему эскорт и передал прощальный подарок — распятие, украшенное бриллиантами, а также подарил карету для путешествий. И сразу же после этого Иосиф распорядился ликвидировать монастырь августинцев и продолжил свои антиклерикальные мероприятия. Поездка, таким образом, оказалась напрасной — император не согласился пойти на уступки и объявил о своем твердом намерении отнять у духовенства значительную долю прав. Он писал в одном из писем, что намерен освободить народ от суеверий и от «влияния саддукеев», что необходимо изъять из церковной области все, что не имеет к ней никакого отношения. Монашеские ордена Иосиф подчинил власти епископов, после чего началось упразднение монастырей. Это сопровождалось невиданными безобразиями: монастыри были ограблены, их имущество растрачено, драгоценные библиотеки уничтожены или расхищены. В венском картезианском монастыре бальзамированное тело Альфреда Мудрого было выкинуто из своего свинцового гроба ради металла и в течение нескольких месяцев лежало на всеобщем обозрении.
Не было ни одной области жизни государства, которую монарх не почтил бы своим вниманием. Девочки, которые ходили в школу, не должны были носить корсеты, домохозяйки не должны были печь коврижки, император считал, что это вредно для пищеварения. Гробы, для того чтобы экономить дерево, должны были делать только с плоскими крышками (венцы называли их «пресс для носа»). Из экономии Иосиф пошел еще дальше и издал указ, не употреблять больше вообще никаких гробов. Мертвецов следовало погребать только в простой льняной простыне или в льняном мешке. В ответ на возмущение подданных он написал эмоциональное послание: «…Многие подданные не хотят понимать причины предписания, касающегося мешков для покойников, которое было издано только, принимая во внимание быстрое разложение, и из-за опасения за здоровье населения. Оттого, что жители Вены выражают такую большую заботу о своем теле даже после смерти, не подумав о том, что потом они становятся ничем иным, как вонючими трупами, Его Величество больше не интересует, каким именно образом они в будущем хотят быть похоронены». Были пересмотрены уголовные законы, отменены пытки, полностью упразднена смертная казнь, дуэль была объявлена нарушением закона.
Иосиф разрешил евреям снять желтые полоски и желтые рукава, которые они до этого должны были носить, подарил им свободу вероисповедания и возвел некоторых евреев в дворянское сословие.
Он старался вникать во все детали. Комиссары и инспекторы выезжали из столицы во все концы империи, чтобы проконтролировать все: подметают ли улицы и пронумерованы ли дома, правильно ли ведет себя войско, не читают ли пасторы необдуманные проповеди, запрещена ли продажа противозачаточных средств, заботится ли кто-нибудь о слепых, глухих и изувеченных детях, и так далее.
Он ввел всеобщее обязательное образование, в том числе для девочек. Он отменил цензуру, и Австрия стала ненадолго единственной страной в Европе, которая имела свободную прессу. В венских кафе распространялись трактаты, которые ругали императора. В 1787 появился самый обидный для Иосифа памфлет «Почему император Иосиф нелюбим своим народом?». Вместо того, чтобы читать произведения французских философов и просветителей, как мечтал Иосиф, толпа расхватывала сырые от типографской краски «Письма монахини» и прочую клубничку, заполонившую рынок. Он основал сиротский дом, школу для глухонемых, ввел семинар для подготовки военных врачей и построил самую большую в то время больницу в мире — «Клиническую больницу», которая в течение полутора столетий оставалась чудом медицины.
Одновременно шли преобразования в других областях государственного устройства. В 1782 году был издан закон, отменявший крепостное право в славянских владениях Австрии.
Иосиф намеревался привести к административному единообразию невероятно сложную габсбургскую имперскую систему. Но только в самой Австрии монарх был неограниченным прирожденным государем. В Тироле он был властителем, на которого свысока смотрело независимое крестьянство, в Бельгии — политическим главой республик, в Чехии и Моравии — чужеземным властелином, в Венгрии — феодальным сюзереном дворянской республики, в Галиции и Ломбардии — завоевателем, управлявшим по праву меча. Невозможно было управлять таким государством так, чтобы все оставались довольны. Иосиф поставил себе задачу слить в одно целое все свои владения, уничтожить все местные политические права, стереть границы между различными нациями и заменить их простым административным разделением всей империи, сделать немецкий язык господствующим, дать единый свод законов и уравнять перед законом массу крепостных крестьян с бывшими господами.