Н. И. Иванов по окончании Михайловского артиллерийского училища получил назначение в 3-ю гвардейскую артиллерийскую бригаду, где 19.8.1869 г. начал офицерскую службу младшим офицером 2-й гренадерской (не гвардейской) батареи. С первых дней службы зарекомендовал себя с положительной стороны, о чем свидетельствует скорый последующий перевод в 1-ю гвардейскую батарею той же бригады (в гвардейские части и подразделения был очень тщательный отбор личного состава, как офицерского, так и солдатского).
Специфика артиллерийской службы позволила ему стать в 1881 г. командиром батареи, которой он прокомандовал более трех лет. Таким образом, была заложена база глубоких знаний в области боевого применения артиллерии, о которых неоднократно в последующем говорили сослуживцы Н. И. Иванова, и получен базовый опыт командования первичным структурным артиллерийским подразделением.
Следующей командной должностью Н. И. Иванова стало назначение в Русско-японской войне 1904–1905 гг. командиром Восточного отряда, вскоре переименованного в III Сибирский корпус. Парадокс заключается в том, что этому назначению предшествовал ряд административных должностей по артиллерии (в большинстве своем крепостной, тактика действий которой отличалась отсутствием маневра и была сугубо специфической). Таким образом, не имея никакой теоретической общевойсковой подготовки (Н. И. Иванов не заканчивал академию Генерального штаба), артиллерийский офицер с опытом управления артиллерийской батареей получил в ходе ведения боевых действий в командование общевойсковой корпус.
Для артиллерийских офицеров существовала сложность в постижении пехотных навыков, так как программа артиллерийского училища не включала общевойсковые знания. Это усугублялось тем, что управление артиллерийским подразделением в бою принципиально отличалось от управления общевойсковым подразделением, и продолжительная служба в артиллерии крайне мало могла дать артиллерийскому офицеру в плане приобретения навыков общевойскового командира. В известной степени это компенсировалось в ходе полевых поездок, в которых Н. И. Иванов участвовал 8 раз с 1878 по 1883 гг. и суть которых будет раскрыта ниже.
Став командиром корпуса, он вступил в боевое управление многотысячным коллективом военнослужащих, принадлежавших к различным родам войск, при отсутствии специального образования и практических навыков по организации их взаимных действий. Боевой опыт управления корпусом в течение 5 месяцев являлся большим приобретением для военачальника и стоил многих лет командования подобным соединением в условиях мирного времени.
Вскоре по окончании Русско-японской войны Н. И. Иванов благодаря приобретенной популярности в армии был назначен командиром 1-го армейского корпуса (с 16 мая 1906 г.), срочно передислоцированного с Дальнего Востока в Санкт-Петербургский военный округ. Тогда царское правительство перебрасывало в район Свеаборга и Кронштадта значительные воинские соединения для подавления июльского восстания солдат и матросов Кронштадта 1906 г. В ноябре 1906 г., будучи назначен временным Кронштадским Военным генерал-губернатором, а затем в апреле 1907 г. Главным начальником Кронштадта, решительно продолжил «
Полученный в Русско-японской войне командный опыт способствовал успешному командованию Восточной армией на армейских маневрах войск Красносельского, Владимирского и Усть-Ижорского лагерных сборов, за что Н. И. Иванову была объявлена Николаем II «Высочайшая благодарность». Напомним, что маневры, как правило, проходили с большими условностями, что для начальствующих лиц требовало соблюдения в основном внешней, парадной формы маневрировавших войск.
С декабря 1908 г. и до начала Первой мировой войны Н. И. Иванов командовал Киевским военным округом, предварительно подготовившись и сдав на больших маневрах в Красном селе экзамен на командование. Он серьезно относился к службе, был предан своему долгу и занимался подготовкой войск к войне согласно условиям современного на то время военного дела. Однако служба носила в большей степени характер административный. Оперативные вопросы были в полном ведении начальника штаба военного округа М. В. Алексеева, которому в этих вопросах Н. И. Иванов доверял полностью. Об этом свидетельствуют сослуживцы по Киевскому военному округу: «…У Н. Ю. (генерала от артиллерии Николая Иудовича Иванова. В воспоминаниях современников его называют Николай Юдович. –