В начале VII в. Сётоку, принц-регент Ямато (правил в 593–622), начал процесс формирования централизованного государства. В 604 г. он объявил «Закон из 17 статей», в котором утверждалось отличие власти царей Ямато от власти других родов. Сётоку также сделал буддизм государственной религией, для того чтобы укрепить этническое самосознание народа. Реформы Тайка, осуществленные императором Котоку (правил в 645–654) в 646 г., передали все земли в собственность государства и ввели единую систему налогообложения. Наконец, в 710 г. императрица Гэммэй (правила в 707–710) построила новый столичный город Хэйдзё (современная Нара) по образцу китайской столицы Чанъаня.
Однако несмотря на эти усилия, императорское государство оставалось подверженным влияниям различных группировок. В Наре было множество буддийских храмов, монахи которых стали играть значительную роль в придворной политике. Чтобы избежать их влияния, император Камму (правил в 781–806) перевел в 794 г. столицу в Хэйан (современный Киото). Здесь все больший вес стал приобретать могущественный клан Фудзивара. В 858 г. Ёсифуса, глава дома Фудзивара, был назначен регентом при малолетнем императоре, и на протяжении следующих 300 лет Фудзивара оставались реальными правителями Японии.
Отсутствие сильной централизованной государственной власти позволило могущественным семействам землевладельцев при поддержке военного дворянского сословия — самураев — установить свой контроль над провинциями. В XII в. борьба между двумя соперничающими кланами — Минамото и Тайра — привела к Гэмпэйской войне (1180–1185). Минамото вышли победителями, и в 1193 г. их глава Ёритомо присвоил себе титул сёгуна (что означает «верховный военачальник, покоряющий варваров»).
Ёритомо создал военное правительство в Камакура (близ современного Токио). Последователи Ёритомо были лишены его способностей, и с начала XIII в. представители клана Ходзё были регентами при целом ряде марионеточных сёгунов из семьи Минамото или императорских фамилий. В 1333 г. императором 1одайго при поддержке главы клана Минамото — Асикага Такаудзи — был свергнут клан Ходзе и восстановлено императорское правление. Спустя всего три года Такаудзи поднял мятеж, вынудив императора бежать в Хэйан, после чего учредил новый сёгунат — Асикага. Сёгуны осуществляли управление провинциями через своих представителей — сюго (протекторов), которые постепенно набирали все большую самостоятельную власть.
В XV в. споры о наследовании титула сёгуна привели к гражданской войне (1467–1477). Власть в провинциях перешла от сюго к местным феодалам — дайме, поддержанным армиями самураев. Династия Асикага просуществовала до 1573 г., но уже к 1500 г. Япония распалась примерно на 400 самостоятельных княжеств. Замки даймё стали центрами политической активности, и вокруг многих из них сформировались большие городские общины. Императоры, продолжавшие номинально править в Хэйане, были лишены всякой власти.