Начальник Особого отдела ВЧК 9-й дивизии внутренней службы — с 1920 по 1921 год. С января 1921-го по март 1923 года — помощник начальника отдела Полномочного представительства ВЧК при СНК РСФСР по Крыму, начальник Славутского, Городницкого, Пищовского пограничных особых пунктов.
В марте 1923 года назначен помощником начальника отделения Киевского окружного отдела ГПУ. В дальнейшем до апреля 1934 года — начальник Проскуровского отделения дорожно-транспортного отдела (ДТО) ОГПУ, старший уполномоченный, начальник 4-го отделения ДТО ОГПУ Юго-Западной железной дороги, начальник Морского транспортного отдела в Одессе.
В 1934–1935 годы — начальник 2-го отдела Экономического управления (ЭУ) ГПУ при СНК Украинской ССР. C 1935 по 1937 год — начальник Криворожского горотдела НКВД, врио начальника, начальник Управления НКВД по Зейской области.
Врио начальника 11-го отделения 5-го отдела ГУГБ НКВД СССР.
С марта по август 1938-го — начальник отделения 2-го управления НКВД СССР, затем с 1938 по 1939 год — заместитель начальника Особого отдела НКВД Северо-Кавказского военного округа, а с 1939 по 1940-й — заместитель начальника Особого отдела НКВД Ленинградского военного округа, с июля 1941 года — начальник Особого отдела НКВД Северо-Западного фронта, с октября 1941-го по октябрь 1943 года — начальник Особого отдела НКВД/УКР Смерш Калининского фронта.
В октябре 1943 года назначен начальником УКР Смерш 1-го Прибалтийского фронта / Прибалтийского военного округа.
С апреля 1947 года — начальник 2-го управления 3-го Главного управления МГБ СССР.
Умер в Москве 29 апреля 1948 года.
С 1 января 1942 года начальник Особого отдела НКВД Калининского фронта старший майор ГБ Н. Г. Ханников специальным сообщением «О настроениях личного состава частей и дивизий в связи с наступлением войск Красной Армии» информировал заместителя начальника Управления особых отделов НКВД СССР комиссара ГБ 3-го ранга тов. Мильштейна. В этом сообщении с чувством удовлетворения сообщал:
А дальше шли примеры патриотических рассуждений воинов разных должностей и частей. В конце сообщения констатировалось:
Это была тоже часть большой и важной работы военных контрразведчиков, вместе с армейцами разгромивших под Москвой немецкую группировку армий «Центр», которой не удалось осуществить план «Тайфун».
Работа с внедрением своей агентуры в разведывательные органы противника не затихала на фронтах, как говорится, ни на минуту. Одной из блестяще проведенных операций Управлением контрразведки Смерш 1-го Прибалтийского фронта под руководством Н. Г. Ханникова было целевое направление в Смоленскую диверсионную школу нашего разведчика К. С. Богданова. Бывший командир взвода, младший лейтенант РККА Богданов в августе 1941 года попал в плен, где был завербован сотрудниками абвера, после чего прошел обучение в Смоленской диверсионной школе. После переброски его в советский тыл он добровольно явился с повинной в органы Смерша.
Изучение его армейскими контрразведчиками показало, что он может быть использован в дальнейшем против немцев на негласной основе. В июле 1943 года после соответствующей подготовки он был переправлен через линию фронта под легендой агента, выполнившего «задание».