25 июня 1826 года руководителем новой спецслужбы был назначен Бенкендорф.
Структурно Третье отделение состояло из 5-ти экспедиций, общего и двух секретных архивов. Центральное место отводилось 1-й экспедиции, на нее возлагался политический сыск. Первоначальный ее штат составлял всего 16 человек.
В тот же день управляющим Третьим отделением был назначен бывший глава Особой канцелярии, действительный статский советник М. Фок. Опытнейший контрразведчик, один из умнейших людей своего времени, он фактически осуществлял практическую деятельность спецслужбы. Одна из ее важнейших функций состояла в надзоре за чиновным аппаратом. Данной работе Фок уделял первостепенное значение. Эту свою позицию он так излагал в докладной Бенкендорфу:
Скончался Фок 27 августа 1831 года. Узнав о его смерти, А. Пушкин 4 сентября 1831года записал в дневнике:
В 1836 году жандармы внутренней стражи были выведены из Отдельного корпуса внутренней стражи и вошли в состав Корпуса жандармов. Таким образом была образована единая по функционалу и стройная в структурном отношении спецслужба, подчинявшаяся лично императору.
Эти организационные мероприятия и выдающиеся организаторские способности Бенкендорфа, его приемников А. Мордвинова и Л. Дубельта обеспечили эффективную защиту самодержавия, самого императора и членов его семьи. За период правления Николая I (1825–1855) в Российской империи, как в 1920 году писал историк И. Троцкий, много работавший в архивах Третьего отделения:
Исключением стало восстание 1830–1831 гг. в Царстве Польском. Но в том вины Третьего отделения не было. Наместник государя в Польше — великий князь Константин Павлович, не допускал его деятельности на подконтрольной ему территории.
Особая заслуга Бенкендорфа состояла также в том, что он принципиально изменил идеологию спецслужбы. Третье отделение отказалось от устаревших подходов: «ловить и не пущать». В основу ее деятельности была положена работа на упреждение. И здесь ключевая роль отводилась агентуре. Сотрудничество с ней носило системный характер, значительная ее часть приобреталась в среде «вольнодумцев и смутьянов». Это позволяло спецслужбе своевременно получать информацию о процессах, происходящих в их среде, и оперативно устранять угрозы самодержавию.