Одновременно шли преобразования в других областях государственного устройства. В 1782 г. был издан закон, отменявший крепостное право в славянских владениях Австрии. Это была одна из самых благих и сравнительно удачных мер Иосифа. Однако земля осталась собственностью помещиков. Гораздо менее успеха имела административная реформа. Держава Габсбургов представляла собой империю, состоявшую из самых разнородных элементов. Если в собственно Австрии австрийский монарх был неограниченным прирожденным государем среди преданного населения, то в Тироле он был властителем, на которого свысока смотрело независимое крестьянство, в Бельгии – политическим главой средневековых республик, в Чехии и Моравии – чужеземным властелином, управляющим равнодушным и несчастным населением, в Венгрии – феодальным сюзереном республики дворян, ревниво отстаивавших свои привилегии, наконец, в Галиции и Ломбардии – завоевателем, управлявшим, безусловно, по праву меча. Править таким государством так, чтобы все оставались довольны, было делом нелегким и даже едва ли возможным. Иосиф поставил себе задачу слить в одно целое все свои владения, уничтожить все местные политические права, стереть границы между различными нациями и заменить их простым административным разделением всей империи, сделать немецкий язык господствующим, дать однообразный свод законов и уравнять перед законом массу крепрстных крестьян с бывшими господами. Уже в 1782 г. были упразднены правительства 12 земель и вместо них созданы шесть губерний. Выборные управы при этом везде были заменены правительственными чиновниками. Затем то же самое стало проводиться в других частях Габсбургской державы. В 1787 г. весь исторический строй Бельгии был вдруг радикально изменен, и правительство разом отменило все старинные учреждения страны. Было образовано министерство юстиции, а дворянство, духовенство, города лишились права иметь особые суды. В административном отношении Бельгия была разделена на округа. Штаты утратили всякое значение, в том числе и право утверждать налоги. Однако бельгийцы были не теми людьми, которые готовы уступить без борьбы свои старинные вольности. Повсюду явились зловещие признаки неповиновения. Бра-бантские Штаты заявили резкий протест против всех распоряжений Иосифа. Все сословия были готовы взяться за оружие. Сестра императора Мария Христина, которая вместе со своим мужем управляла Бельгией, писала императору: «Любезный брат, умоляю вас на коленях, не настаивайте на принятых вами мерах, иначе эти провинции, все без исключения, предадутся такому отчаянию, что сочтут себя вправе порвать узы, связующие их с династией». В ответ Иосиф назначил генерал-губернатором Бельгии графа Муррея. Но даже этот храбрый солдат, ознакомившись на месте с положением дел, счел нужным пойти на важные уступки. Император сместил его и назначил графа Траутмансдорфа, объявив при этом: «Бельгийцы должны образумиться и покориться, иначе употреблена будет сила и зло вырвано с корнем, каковы бы ни были последствия». Новый губернатор в самом деле вскоре должен был применять силу, так что в Брюсселе и Антверпене дело дошло до кровопролития. В октябре 1789 г. началось восстание в Брабанте, перекинувшееся затем в Брюссель, Намюр и Гент. 27 октября австрийская армия потерпела поражение, а к концу года почти вся Бельгия была освобождена от австрийских войск. В январе 1790 г. на собравшемся в Брюсселе Национальном конгрессе было провозглашено образование нового государства – Соединенных штатов Бельгии.

Сходным образом пошли дела в Венгрии. При вступлении на престол император не захотел короноваться венгерской короной. В его глазах Венгрия ничем не отличалась от всякой другой провинции, и её старинная конституция служила только помехой для задуманных преобразований. Всюду была водворена система строгой централизации. Государственным языком объявлялся немецкий. Всех, кто не владел им, предписывалось увольнять с государственной службы. Иосифа умоляли, чтобы он, по крайней мере, дал отсрочку тем лицам, которые желают выучиться немецкому, но и эта просьба не была уважена. В 1784 г. в Венгрии было отменено крепостное право. Все комитатское управление было преобразовано и передано в руки чиновников. Эти нововведения вызвали повсеместное возмущение. Дворянство уже готово было свергнуть «некоронованного» Иосифа и передать престол кому-нибудь из имперских князей. Но, наученный бельгийским опытом, Иосиф в январе 1790 г. уступил венграм и аннулировал реформы, провозглашенные в 1780 г.

Все внешнеполитические начинания Иосифа были также безуспешны. Война за Баварское наследство в 1778-1779 гг. завершилась унизительным отступлением, а Турецкая война 1788-1791 гг. представляла собой непрерывный ряд неудач и поражений. Даже личное присутствие императора на фронте не изменило положения. Он отправился на войну уже тяжело больным. Кампания 1788 г., проведенная в жаркой и болотистой местности, окончательно доконала его, и он возвратился из похода, жестоко истощенный болезнью. «Бог знает, что приходится выносить мне, – писал он брату Леопольду в конце 1789 г., – одышка в соединении с сильнейшим кашлем не даёт мне покоя, так что не могу я ни лежать, ни ходить, и целые ночи провожу, сидя без сна, погруженный в тяжкое раздумье о судьбе государства». Он чувствовал, что дни его сочтены, но более, нежели смерть, угнетали его беды, постигшие отечество. Он знал, что его повсеместно обвиняют в возмущении и развале страны, но не желал принимать на себя ответственность. «Я знаю своё сердце, – писал он незадолго до своей кончины, – я убежден в глубине души в чистоте моих намерений, и я надеюсь, что, когда меня не станет, потомство рассмотрит и рассудит внимательнее, справедливее и беспристрастнее, чем современники, то, что я делал для моего народа». После смерти императора большинство его нововведений было отменено. Современники довольно сурово оценили его деятельность. Но с течением времени, особенно после Французской революции и начала Наполеоновских войн, когда ясно обозначился глубокий кризис государственной системы Австрии, о нём стали судить снисходительнее. Несомненно, он многое предвидел, в начинаниях его было много верного и полезного, но у него не было ни государственной прозорливости, ни такта, ни способностей истинного реформатора, поэтому неудача, постигшая его, была закономерна и естественна.