Когда после своего назначения шефом жандармов Бенкендорф попросил у Николая I инструкцию для вверенного ему корпуса, царь протянул ему свой платок со словами: «Вот тебе инструкция. Чем больше утрешь слез этим платком, тем лучше». Даже если эта история и представляет из себя сочиненную позднее легенду, на чем настаивают некоторые исследователи, тем не менее она характеризует царя и его сподвижника как людей, способных на подобный образ мыслей. Вместе с тем она показывает, что сфера деятельности жандармов как представителей императора на местах виделась Николаю I столь обширной, что он счел бессмысленным пытаться втиснуть ее в рамки какой-либо инструкции. Но все же без такого документа ни одно учреждение функционировать не может, и, отправляя жандармского полковника И.П. Бибикова и агента Третьего отделения поручика И.В. Шервуда на политическое обследование южных губерний, 13 января 1827 г. Бенкендорф дал им инструкцию, текст которой впоследствии стал трафаретным. Первый и самый главный пункт этой инструкции от подчиненных шефа жандармов требовал: «Обратить особенное внимание на могущие произойти без изъятия во всех частях управления и во всех состояниях и местах злоупотребления, беспорядки и закону противные поступки». Второй пункт обязывал «наблюдать, чтобы спокойствие и права граждан не могли быть нарушены». Исходя из третьего пункта, находящийся на месте жандарм получал право сноситься с теми местными властями, в ведении которых им замечены беспорядки, «предварять их» и только в тех случаях, если все его «домогательства» «будут тщетны», сообщать о них в Третье отделение. В инструкции особо обращалось внимание жандармов на следующее:
«Цель вашей должности должна быть прежде всего предупреждение и отстранение всякого зла». Весьма расплывчатое понимание борьбы со «всяким злом» давало жандармским офицерам широкий административный простор, а их подчиненность далекому начальнику округа и еще более далекому шефу жандармов надежно обеспечивала их независимое положение на местах.
Секретная агентура Третьего отделения и подразделения Корпуса жандармов на местах охватили всю страну сетью регулярного политического сыска. В письме Бенкендорфу от 14 августа 1826 г. управляющий канцелярией Третьего отделения М.Я. фон Фок констатирует масштабы этого процесса: «Деятельность надзора растет с каждым днем, и у меня едва хватает времени для принятия и записывания всех заявлений». Общество мгновенно почувствовало тотальную по тем временам слежку, и уже в следующем месяце, 24 сентября 1826 г., критики «сильно восстают» против введенной Николаем I системы: «Нельзя чихнуть в доме, сделать жест, сказать слово, чтобы об этом тотчас не узнал государь». Приписываемое М.Ю. Лермонтову знаменитое стихотворение 1841 г. отражало общее мнение относительно всепроникающего надзора жандармов, носивших мундиры голубого цвета:
После подавления Польского восстания на территории входившего в состав Российской империи Царства Польского в 1832 г. был образован шестой жандармский округ, находившийся в двойном подчинении– шефа Корпуса жандармов и наместника. В своих основных чертах жандармская структура складывается к 1 июля 1836 г., когда Корпус жандармов реорганизуется в Отдельный Корпус жандармов (отдельным корпусом в России XIX в. считалось воинское соединение, в своем правовом статусе приравниваемое к армии) и к шести существующим округам был добавлен Сибирский жандармский округ. Все семь округов перестали делить на отделения, вместо них в каждой губернии были сформированы управления жандармских штаб-офицеров, в результате чего сеть органов сыска стала еще гуще. Хозяйственное обеспечение жандармских подразделений из Корпуса внутренней стражи перешло в ведение шефа жандармов, а так называемое «дежурство» корпуса было заменено штабом. Тогда же было принято «Положение о корпусе жандармов». Наконец, в декабре 1837 г. был образован восьмой жандармский округ – Кавказский, а в 1842 г. жандармерии был передан Борисоглебский полк.