1 февраля 1842 года император подписал указ, в соответствии с которым предполагалось начать строительство. Деньги выделялись из казны. При этом Николай I не препятствовал подробному изучению и рассмотрению правительственными органами предложений частных предпринимателей о строительстве тех или иных рельсовых путей. 11 августа 1842 года был образован Департамент железных дорог, в котором сосредоточились все распоряжения о постройке новой линии, а впоследствии и других рельсовых путей. Строительство дороги началось летом 1843 года на основе проекта П. П. Мельникова, Н. О. Крафта и А. Д. Готмана. Дорога была задумана как двухколёсный путь по кратчайшему направлению длиной около 604 вёрст (в разных источниках протяжённость линии Санкт-Петербург — Москва указывается в 603 и в 609 вёрст).
Первоначально определённая сумма, отведённая на строительство, составляла 43 млн рублей серебром. Трасса была построена за 8,5 лет и обошлась казне в 66,8 млн рублей серебром, что оказалось дешевле многих иностранных железных дорог. Относительная дешевизна строительства достигалась за счёт нестандартных инженерных решений, массового использования крепостного труда, применения специализации и поточного метода производства работ. В процессе проектирования и сооружения железной дороги определились и параметры, которые в дальнейшем учитывались в железнодорожном строительстве. Так, ширина колеи в 1524 мм стала общегосударственной на сети железных дорог — вплоть до нашего времени. Кроме того, были разработаны основы размещения станций и т. д.
Сооружением вокзалов по предписанию Николая I занимались не инженеры, а архитекторы. Для этого пригласили двух известных зодчих — К. А. Тона и Р. А. Желязевича. К. А. Тон проектировал главные здания вокзалов на магистрали — Московский и Петербургский. Они были завершены в 1851–1852 годах. Устройства сигнализации и связи для обеспечения безопасности перевозочного процесса в этот период находились ещё на стадии становления. Несмотря на это российский учёный Б. С. Якоби подготовил аппаратуру телеграфной связи для дороги. Однако к эксплуатации была принята система телеграфной связи немецкого изобретателя В. Сименса.
Официальное открытие крупнейшей в Европе двухпутной дороги состоялось 1 ноября 1851 года. Газета «Северная пчела» восторженно писала об отправлении в 11 часов 15 минут первого «общенародного поезда», который через 21 час 45 минут благополучно прибыл в Москву. Дорога носила название Санкт-Петербурго-Московская, а после кончины императора Николая I, в 1855 году, была переименована в Николаевскую. Дорога работает исправно по сегодняшний день вот уже более 150 лет.
Несмотря на интерес Николая I к железнодорожному строительству и практическое осуществление ряда проектов, Россия продолжала отставать в этой области от развитых государств мира: в 1853 году протяжённость железнодорожных линий в стране насчитывала 979 вёрст, что составляло 1,5 % мировой железнодорожной сети. Это обстоятельство негативным образом проявилось в ходе Крымской войны, ибо отсутствие современных путей сообщения сделало невозможным бесперебойное снабжение армии необходимыми подкреплениями, боеприпасами и продовольствием.
Александр II определил дальнейшее строительство сети железных дорог в качестве необходимого условия развития экономики и укрепления обороноспособности страны. В 1855 году главноуправляющим путями сообщения был назначен генерал-адъютант К. В. Чевкин, горный инженер и участник строительства Николаевской железной дороги. 26 января 1857 года Александр II подписал указ о создании сети железных дорог. Одновременно правительством была заключена концессия на сооружение целого ряда железных дорог общей протяжённостью около 4000 км. Для реализации намеченных планов было образовано Главное общество российских железных дорог с участием русского, французского, английского и немецкого банковского капитала. К началу 1860-х годов были построены первые участки московских железнодорожных направлений. В Москве появились Нижегородский, Ярославский и Курский вокзалы, но ожидаемого прилива иностранного капитала в Россию за счёт продажи акций и облигаций Главного общества не произошло.
К 1860 году железнодорожная сеть России имела протяжённость около 1590 км, а во всём мире насчитывалось почти 108 тыс. км железных дорог, в том числе в США — более 49 тыс., в Великобритании — около 17 тыс., в Германии — около 11 тыс. км, во Франции — 9,5 тыс. км. Из других стран, где в этот период разворачивалось железнодорожное строительство, следует отметить Бельгию, где до 1860 года было построено 1,8 тыс. км железных дорог, Авст ро-Венгрию — 4,5 тыс., Испанию — 1,9 тыс., Италию — 1,8 тыс. км.