Между тем умерла у Карла молодая жена его Бланка, и он, по прошествии 7 месяцев, вступил во второй брак с Анной, дочерью Рудольфа, пфальцграфа на Рейне из старшей линии баварского дома (1349). Рудольф, до тех пор самый могущественный из приверженцев Людвига Бранденбургского, перешел вследствие этого на сторону Карла, а тогда наконец и Людвиг Бранденбургский вступил в договор с Карлом от своего имени и от Гюнтера из Шварцбрга, которого Карл уже осадил в городе Эльтвейле (1349). Когда наконец мнимый Вольдемар признан был обманщиком, Карл отдал бранденбургский удел Людовику, который покорился ему как законному немецкому императору и вручил ему корону и другие драгоценности государства, хранившиеся до тех пор у него после отца (1350). Император немецкий назвался Карлом IV.
Еще среди этих занятий иностранными делами он предпринял важное дело улучшения своего чешского королевства, к чему он свободно мог приступить только по смерти своего отца. Как римский император, он прежде всего подтвердил различные договоры и привилегии, определявшие юридические отношения между Чехией и немецким государством и тем положил предел реакциям против независимости чешского королевства, которые поднимаемы были немецкими императорами со времени победы Рудольфа габсбургского над Пржемыслом Оттокаром. Земский сейм 1348 которому он выдал на то грамоты, согласился на то, чтобы выбор королей чешскими сословиями, сообразно привилегии императора Фридриха II, происходил только по прекращении владетельного рода и кроме того, чтобы короли наследовали по праву первородства. Б силу нового постановления Карла, Силезия и верхняя Лужиция (Лаузиц) или земля Згожелецкая и Будишинская приведены были в вечную зависимость от чешского королевства также точно, как и Моравия.
На этом же сейме Карл уговорил сословия учредить университет в Праге, о чем некогда замышлял его дед, король Владислав II. Карл еще в 1347 году получил на это буллу от папы Климента VI, чтобы пражский университет, как учреждение главным образом церковное, имело одинаковые права с университетами всех других католических стран. Теперь он сам издал привилегию, даровавшую вновь основанному университету все права и льготы, которыми пользовались два знаменитейшие университета того времени — болонский в Италии и парижский во Франции (1348); вызвал славных ученых, которые тотчас начали чтения по всем отраслям наук, назначил им плату, а впоследствии и поземельные владения.
Население Праги было в то время еще незначительно; оно умножилось в правление государя, который тщательно заботился об общественном благосостоянии. Тысячи студентов из чужих краев прибывали в новое ученое учреждение; к тому же Карл думал сделать Прагу главной резиденцией немецкого государства, которой до того не было, и так поставил немецких князей, что одни из них скоро постоянно поселились в Праге, другие же часто приезжая, долго жили при его дворе. В том же году (1348) Карл для расширения Праги основал новый пражский замок, построил городскую стену от знаменитого в древности Вышеграда до реки Влтавы под Поречьем, и все пространство между ней и староградскими стенами, там и сям населенное, разделил на улицы и площади, где с необыкновенной живостью тотчас началась постройка. Король еще в предыдущем году возле этого города основал два монастыря, один кармелитский, во имя Божией Матери, другой — славянский, прежде упомянутый; к этому присоединилось позднее еще несколько зданий; прежде всего церковь св. Карла с монастырем каноников ордена св. Августина (1350). В то же время Карл начал строить великолепную загородную резиденцию для чешских королей, замок Карлштейн, чтобы сохранять там важные редкости и государственные грамоты (1348).
Несколько лет всеобщего мира со всеми окрестными соседями Чехии, достигнутого осмотрительностью Карла, много помогали исполнению всех этих и других его предприятий. Спокойствие страны нарушено было единственной враждой между некоторыми чешскими и австрийскими панами на границе обеих земель, из которой возникла далее распря между панами из Росенберга и главнейшим пражским бургграфом Вилемом из Ландштейна, обещавшим помощь австрийским. Карл должен был наказать росенбергских панов отнятием и разрушением некоторых их крепостей, чем и усмирил это восстание и утвердил спокойствие.
После мирных договоров с Людовиком бранденбургским и остальным домом баварских герцогов, брат Карла, Иоанн Генрих должен был отказаться от всех притязаний на тирольское графство. В замен этого Карл уделил ему маркграфство моравское в наследственное владение под верховной властью чешской короны, исключая княжества Опавского, где княжил Николай младший, сын Николая, побочного сына короля Оттокара и ольмюцкого епископства, оставшегося с большими имениями и многочисленными своими вассалами под непосредственной властью королей. Другому своему брату, Вячеславу, Карл несколько позже отдал люксембургское графство, возведенное в герцогство.