В 326 году Константин решился перенести место пребывания правительства из Рима на Восток, и уже к концу года был заложен первый камень в основание Константинополя. Константин подумывал по меньшей мере еще о двух местах для устройства новой столицы: Сердике (ныне София) и Трое, — прежде чем его выбор окончательно пал на Византий. Вероятно, этот шаг был связан с его решением сделать христианство официальной религией империи. Рим, естественно, являлся оплотом язычества, за которое с горячей преданностью цеплялось сенатское большинство. Константин не хотел искоренять это чувство открытым насилием и поэтому принял решение основать новую столицу для империи собственного творения. Он объявил, что место для столицы явилось ему во сне; торжественная церемония открытия совершалась христианскими духовными лицами 11 мая 330 года, когда город был посвящен Блаженной Деве (по другой версии — богине счастливой судьбы Тихе).
В 332 году Константина попросили оказать помощь сарматам в борьбе против готов, над которыми его сын и одержал крупную победу. Спустя два года, когда 300 тысяч сарматов расселились на территории империи, на Дунае снова вспыхнула война. В 335 году восстание на Кипре дало Константину предлог для казни молодого Лициния. В том же году он разделил империю между своими тремя сыновьями и двумя племянниками — Далмацием и Аннибалианом. Последний получил вассальное царство Понт и, в пику персидским правителям, титул царя царей, тогда как другие правили как цезари в своих провинциях. При этом Константин остался верховным правителем. И наконец, в 337 году Шапур II, персидский царь, заявил свои претензии на провинции, завоеванные Диоклетианом, — и вспыхнула война. Константин готов был лично возглавить свою армию, но заболел и после безуспешного лечения ваннами скончался в Анкироне, пригороде Никомедии, 22 мая, незадолго до кончины приняв христианское крещение из рук Евсевия. Он был похоронен в церкви Апостолов в Константинополе.