Со времени завоевательных походов Александра Македонского во второй половине IV в. до н. э. и последующего распада его империи греческий язык, особенно аттическое наречие, стал общим языком городской культуры регионов, которые впоследствии вошли в состав Византии. Распространению его среди рядовых граждан провинций способствовали присутствие в регионе армии, служба в ней подданных империи, а также торговля между регионами. Постепенно на основе взаимодействия греческого языка с местными языками развился ряд новых диалектов, так что еще в I в. н. э. в восточных регионах Римской империи даже появилось движение за чистоту классического аттического греческого языка от многочисленных варварских наслоений. Конечно, оно не имело успеха. Живые языки развиваются, они не являются застывшими, и их нельзя улучшить с помощью прямого воздействия. Но кампания эта дала один результат, повлиявший на все дальнейшее развитие греческого языка, греческой литературы и политики, особенно образовательной, вплоть до настоящего времени. Им стало создание диглоссии — «двуязычия», то есть существования двух (иногда более) вариантов греческого языка: обычного, разговорного, и «аттического» или «классического» — языка интеллектуальной и. образованной элиты, свободного от «варваризмов» и по возможности максимально приближенного к языку Афин V в. до н. э. Это создало в обществе известную социальную и культурную дифференциацию. Искусственно культивируя «мертвый» язык, писатели и ораторы, обладавшие различным уровнем образованности, восходившей к различным школам, создавали различные варианты «аттического» греческого языка, тем самым еще более запутывая вопрос. Разрыв между аттицизированным языком ученых людей и разговорным греческим «просторечием» сделался настолько велик, что иногда нам приходится слышать о переводах с ученого языка на разговорный.
Анатолия всегда была регионом значительного культурного разнообразия. Большинство местных негреческих языков (например, исаврийский, галатский, каппадокийский, ликийский) отмерли к V–VII вв., хотя иные из них вполне могли сохраниться в ряде изолированных уголков до более позднего времени. Однако в целом, если не считать армянского языка и родственных ему наречий на северо-востоке страны, в этом регионе господствовал греческий язык, представленный многими диалектами, иные из которых сохранились и до нашего времени, хотя и не на территории Турции (так, например, понтийский диалект греческого языка и теперь можно услышать в тех районах Греции, куда переселились турецкие греки, выехавшие из Турции при обмене населением с Грецией в 1923 г.).
На Балканах после VI в. сложилась еще более сложная языковая ситуация. Прежде здесь можно было выделить три основные языковые группы — греческий язык и его диалекты на юге, латынь и ее диалекты в центре и на севере (включая Дунайскую долину к югу и северу от реки, где она после римского завоевания в I–II столетиях н. э. вытеснила некоторые местные языки, например дакийский), а также несколько изолированных языков западных приморских районов (например, иллирийский — предтеча нынешнего албанского). Население второго из этих трех субрегионов говорило на языках римско-македонской и римско-дакийской групп, от которых в XIII в. произошел, в частности, румынский язык, восходящий к поздней латыни и испытавший сильное влияние славянских языков, с которыми дако-фракийское население находилось в постоянном контакте. Здесь языковую ситуацию определили два фактора — появление здесь в VI–VIII вв. большого числа славян, а также миграция через эти районы, начиная с X в., кочевых и полукочевых народов, таких, как влахи и албанцы. Топонимика свидетельствует о долговременном пребывании славян в ряде областей Греции, однако повторная эллинизация северных Балкан в VIII–IX вв., очевидно, стерла большую часть славянских языковых элементов. Наличие в Пелопоннесе и в Северной Греции славянских топонимов свидетельствует о пребывании здесь значительного славянского населения. И действительно, славяне, в X–XV вв. оккупировавшие области Пелопоннеса, фигурируют в источниках как разбойничьи отряды или независимые сообщества, поддерживавшие свирепые и воинственные традиции. Славяне Македонии и Фессалии сохранили свои первоначальные языки, приобретшие несколько эллинизированный облик лишь лоскутно, в ряде регионов, а те из них, кто селился в более южных районах, постепенно стали говорить по-гречески.