В марте 1953 года этот «островной» округ был переформирован в армию, которую включили в состав нового объединённого Дальневосточного военного округа. Крылов около полугода командовал этой армией, а в сентябре того же 1953 года он был назначен первым заместителем командующего войсками Дальневосточного военного округа. Одновременно, 18 сентября 1953 года, ему было присвоено воинское звание генерала армии. С января 1956 года — командующий войсками Уральского военного округа, с 1958 года — командующий войсками Ленинградского военного округа, с 1960 года — командующий войсками Московского военного округа.
В марте 1963 года назначен Главнокомандующим Ракетными войсками стратегического назначения СССР.
На посту Главкома РВСН Н.И. Крылов оказался, по существу, создателем нового вида войск, ибо за прошедшие 4 года существования войск он стал их четвёртым по счету Главнокомандующим. Ему предстояло в сжатые сроки создать войска, привести их в постоянную боевую готовность, обеспечивать испытания новой техники и совместно с конструкторами вести её доработку. Развитие РВСН обуславливалось и Карибским кризисом. В 1965 году, судя по докладу министра обороны США Р. Макнамары, у США имелось 650 баллистических ракет, а у СССР всего 200. Н.И. Крылов, конструктор М.К. Янгель и ряд других специалистов приходят к выводу о необходимости строительства новейших шахтных пусковых установок (ШПУ) и принятия на вооружение новых боевых ракетных комплексов (БРК). М.К. Янгель создал в своём КБ новые виды ракетного вооружения, дальность полёта которых значительно превышала РК с ракетами Р-12.
Широко известна ставшая уже фольклорной история о посещении Ракетных войск стратегического назначения СССР Президентом Франции Шарлем де Голлем в 1966 году. Вместе с Н.И. Крыловым он посетил ракетную дивизию в Новосибирске, после чего по приглашению Л.И. Брежнева прибыл для участия в показательном пуске ракеты на полигоне Ленинск (будущий космодром «Байконур») в Казахстане. Де Голль не был предупрежден о готовящемся пуске и беседовал с Брежневым и Крыловым на смотровой террасе полигона, когда в нескольких сотнях метров от них из замаскированной шахты внезапно стартовала и ушла в небо межконтинентальная баллистическая ракета. Когда потрясённый де Голль спросил у Брежнева «Неужели у вас такая же ракета и на Париж нацелена?», улыбнувшийся Брежнев кивнул на дымящуюся шахту и сказал: «Не беспокойтесь. Не эта». Возможно, случившееся убедило генерала де Голля в силе нового вида вооружений Советской Армии и повлияло на его решение о выходе Франции из военной организации НАТО в том же году.
Н.И. Крылов скончался в возрасте 69 лет, на девятый день после получения известия о смерти своего друга — М.В. Захарова, Маршала Советского Союза. Похоронен у Кремлёвской стены.
Именем Маршала Крылова названы улицы в городах Волгоград, Калач-на-Дону, Одинцово, Пенза, Севастополь, Первомайск Николаевской области Украины, а также на его малой родине в селе Вишнёвом Тамалинского района Пензенской области.
В селе Вишнёвое работает Историко-краеведческий музей имени Н. И. Крылова. В постоянной экспозиции музея представлены личные вещи маршала, в том числе рабочий китель с фуражкой и выходное пальто с парадной фуражкой, переданные его близкими. В 1951 году в этом же селе маршалу Крылову как дважды Герою Советского Союза был установлен бюст.
Бюст маршала Крылова также установлен в районном посёлке Тамала, райцентре Тамалинского района Пензенской области. Бюст Крылова в Тамале является частью мемориала жителям района — участникам Великой Отечественной войны. Мемориал состоит из символического скульптурного памятника фронтовикам и шести бюстов Героев Советского Союза — уроженцев Тамалинского района, включая Крылова.
Еще один бюст маршала Н. И. Крылова установлен на Аллее героев в парке Победы в Саратове, как одному из трёх саратовцев дважды Героев Советского Союза.
Имя маршала Крылова носило Харьковское высшее военное командно-инженерное училище.
Имя «Маршал Крылов» носят корабль измерительного комплекса Тихоокеанского флота, а также большой морозильный рыболовный траулер, ныне «Marshal Krylov» (России не принадлежит).
Имя маршала Крылова присвоено средней общеобразовательной школе № 2 в ЗАТО «Солнечный» (г. Ужур-4) Красноярского края.
На здании бывшего штаба Московского военного округа (Космодамианская набережная, дом 24 строение 1/53) установлена мемориальная доска.
Мемориальная доска в память о Крылове Н.И. установлена Российским военно-историческим обществом на здании средней школы № 1 города Аркадака.
Имя маршала Крылова с 2015 года носит мыс Осьма на океанской стороне острова Уруп Большой Курильской гряды.
Литературная премия «Щит Отечества» в РВСН также носит имя маршала Н.И.Крылова.