Римский Лондон украшали статуи. Огромная кисть бронзовой руки была найдена под Темзстрит, а голова императора Адриана — в водах самой Темзы. Были в нем и общественные купальни, одна из которых находилась на Норт-Одли-стрит. Когда рабочие в конце XIX века наткнулись на нее в подземном сводчатом помещении, она была еще наполовину залита водой.
В 410 году римляне ушли из города. Племена англов и саксов время от времени устраивали набеги на Лондон, и он постепенно приходил в упадок. Пожары и военные стычки оставляли после себя руины, а денежная помощь Рима иссякла. Англы и саксы постепенно заселялись по всему Лондону. Остались в нем и прежние обитатели — бритты. Лондон постоянно упоминается как независимый город и место пребывания британских королей. Здесь монархи короновались и всходили на престол и здесь же устраивались общие собрания жителей. В связи с Лондоном упоминается и легендарный король Артур. Согласно Матфею Вестминстерскому, Артура короновал архиепископ Лондонский, и после церемонии новоиспеченный король вступил в Лондон.
К середине VI века Лондон подпал под власть саксонских правителей. Земли, обнесенные городской стеной, использовались как пастбища, среди мраморных римских развалин строились деревянные хижины и лавки. Бритты и саксы вступали в смешанные браки, ассимилировались и их языки.
В 601 году папа Григорий объявил Лондон главной епархией всей Британии; еще через три года Этельберт Кентский воздвиг кафедральный собор Св. Павла. Римско-католическая церковь постепенно закрепилась во всей Британии.
В 842 году произошла «великая битва в Лондоне» — на город напали датские викинги, но были отброшены. Девять лет спустя они вернулись на 350 кораблях и все-таки взяли Лондон. Многие жители успели сбежать, оставшихся предали мечу, а жилища сожгли. Но город не раз возрождался из пепла.
В 872 году викинги построили под Лондоном укрепленный лагерь. Сам город превратился в военный гарнизон для защиты кораблей. Скандинавский предводитель Хальфдерс чеканил здесь свою собственную серебряную монету. В Уэссексе тем временем правил король Альфред, которому удалось договориться с захватчиками, и довольствоваться своей ролью подконтрольной марионетки он не собирался. В 883 году он привел английскую армию под стены города, а три года спустя в Лондоне было официально провозглашено владычество Альфреда над всем регионом. Датчане попросили мира, и им отвели территорию к востоку от реки Ли. Лондон стал пограничным городом, и Альфред затеял работы по его восстановлению и укреплению. Он вновь сделал Лондон пригодным для обитания.