Знакомство японцев с китайской иероглифической письменностью состоялось в первых веках н.э. Первый известный японский памятник датируется 5 в. Такие значительные памятники, как "Кодзики" и "Нихон-сёки", были созданы в начале 8 в. Они были записаны китайскими иероглифами, которые — наряду с китайским -имели и японское чтение. Со временем, с 8 в. — в силу синтетичности японского языка в отличие от аналитичности китайского — изобретаются специальные значки, писавшиеся сверху, снизу или сбоку от иероглифа и указывающие на морфологические формативы (система кунтэн). В это же время происходит оформление системы камбун ('китайское, или ханьское, письмо'), которая регулировала порядок записи и прочтения текста; она использовалась в связи с изучением китайского языка и китайской культуры. В дополнение к китайским создаётся некоторое множество и японских иероглифов.
Слишком сложная система камбуна постепенно вытесняется складывающейся (с 6 в., сперва для передачи собственных имён) собственной графической системой, построенной на основе слогового принципа. Иероглифы используются как слоговые знаки (манъёнгана), рядом с которыми появляются собственно слоговые знаки каны, что знаменовало становление вабуна ('японского письма'). На вабуне в основном стали записываться художественные тексты. Сосуществование камбуна и вабуна было довольно долгим. Их использование было распределено между жанрами текстов. Камбун особенно влиял на лексикографическую практику, которая продолжала следовать китайским образцам словарей.
На рубеже 8—9 вв. утверждаются два варианта каны — хирагана и катагана, которые вытеснили конкурирующие варианты и употребляются до настоящего времени. Знаки хираганы и катаганы сохранили до сих пор своё слоговое значение, переход к звуко-буквенному японскому письму не состоялся (под влиянием китайского канона и в силу простой структуры японского слога в отличие, например, от корейского, которое не смогло удовлетвориться слоговым письмом). Уже в 9—10 вв. складывается традиция записывать лексические единицы иероглифами, а грамматические в основном каной. Предпринимались многочисленные попытки упорядочить знаки каны, сперва с учётом последовательности их появления в записи стихотворения (ироха, 9 в.).
Постепенно была осознана членимость слога (под влиянием знакомства с индийскими трудами по фонетике и с алфавитом деванагари, что было обусловлено проникновением в Японию буддизма и началом изучения санскрита). Всё более усложнялись опыты составления фонетических таблиц как инструментов систематизации знаков каны (10—11 вв.). Санскритолог Сёкаку в начале 12 в. создаёт канонизированную впоследствии систему гоон ('пять слогов'; позднее -с 17 в. — она носит название название годзюон 'пятьдесят слогов'), в которой в каждом столбце таблицы группировалось по пять знаков. Ироха и годзюон сосуществуют до середины 20 в.
Японские учёные приняли и попытались приложить к материалу своего языка трёхмерную группировку слогов в таблицах индийского алфавита деванагари по признакам: а) место и способ образования согласной части, б) звонкость -глухость и непридыхательность — придыхательность согласной части, в) характер гласной части. Они, однако, строили двухмерные группировки в таблицах годзюона в связи с нерелевантностью оппозиции непридыхательность — придыхательность и (в период возникновения годзюона) нерелевантностью оппозиции звонкость -глухость. Гласные и согласные осознаются как самостоятельные сущности только в период влияния европейской лингвистической традиции.
Рано начинают различаться знаменательные и служебные слова, корневые морфемы и аффиксы, что было обусловлено необходимостью анализа фактов для их письменной фиксации. Начиная с 8 в. пробуждается интерес к этимологизированию, причём анализ не опирался на достаточно надёжные основания. В этот же период начинают отмечаться диалектные особенности.
К 10 в. складывается собственно языковедческий подход, отразившийся в появлении комментаторской литературы и создании фонетических таблиц (годзюона). В 10—11 вв. пробуждается интерес к комментированию более ранних памятников, содержавших немало уже непонятных слов. Основными приёмами толкования неизвестных слов были: исследование контекста употребления слова; поиск исчезнувших слов в диалектах; поиск закономерных связей древних слов с понятными по смыслу современными словами, основанных на звуковых переходах и чередованиях (в основном гласных), на процессах выпадения или добавления слога (с целью устранения зияния). Вырос интерес к этимологии, опирающейся на звуковые изменения. Но у языковедов тогда ещё отсутствовало понимание исторического характера этих изменений.
Словари, ориентированные на специфику японского языка и отходящие от китайских образцов, появляются в 12—15 вв. В них прежде всего описывается лексика древних текстов. Она классифицируется по тематическим группам. Фудзиара Ика (13 в.) вводит членение слов на имена вещей и непредметные слова.