В первый год своего существования корпус жандармов состоял из 4278 человек. В 1880 г. в нем служили 6808 человек. Большинство жандармов были рядовыми или унтер-офицерами. Например, в 1827 г. в корпусе состояли 3 генерала, 41 штаб-офицер, 160 обер-офицеров, 3617 нижних чинов, 457 нестроевых.
Николай I и Бенкендорф постарались создать элитарное соединение. В корпус отбирались наиболее развитые и грамотные солдаты из других родов войск. Еще более строгим был отбор офицеров. В жандармы не принимались военные до 25-летнего возраста. Национальных ограничений не существовало. Однако полякам требовалось пройти дополнительную проверку. В жандармы можно было попасть, только имея отличные рекомендации или сильную протекцию. Впоследствии было признано необходимым ввести курс обучения для кандидатов в жандармы. Они сдавали экзамены и проходили испытательный срок. При вступлении в корпус жандармы давали подписку о непринадлежности к тайным обществам.
Следует отметить, что желающих надеть голубой мундир (форма жандармов) всегда было больше, чем вакансий. Например, в 1871 г. прошения о переводе в жандармский корпус подали 142 армейских офицера. Из них был отобран 21 человек, а к занятиям допустили всего шесть. Жандармская служба являлась притягательной по нескольким причинам. Николай I поддерживал мнение о жандармских офицерах как о своих доверенных лицах. Офицеры в голубых мундирах были свободны от армейской рутины. В провинциальных городах они занимали независимое положение, подчиняясь только далекому начальнику округа и еще более далекому шефу жандармов.
Наконец, жандармам выплачивали большое жалованье. Во всяком случае, в воспоминаниях жандармов эта причина поступления в корпус играла едва ли не решающую роль. Например, моряка Э.И. Стогова после 20-летней службы на флоте одолели мрачные мысли: «Во флоте я разочаровался: упадок общего духа, бедность товарищей поразили меня — какая будущность? Я долго думал и решился искать другой службы. Тогда самое большое содержание было, как в новом учреждении, в корпусе жандармов, но без протекции как попасть туда?» Все же Стогов нашел протекцию у родственников А.Х. Бенкендорфа и перешел в его ведомство с флота, отказавшись от назначения капитаном фрегата.
С другой стороны, среди значительной части общества было распространено презрительное отношение к жандармам. Некоторые военные отклоняли предложения о переводе в жандармский корпус. В записках военного юриста И.П. Хитрово рассказывается о том, как его пригласили прочитать курс лекций для кандидатов в жандармы. Слушатели занимались добросовестно, хотя, как отмечал Хитрово, больше всего их интересовали не профессиональные обязанности жандармерии, а денежное жалованье. К концу занятий шеф жандармов предложил перейти в корпус самому лектору, посулив ему в ближайшем будущем должность начальника Петербургского жандармского управления. Хитрово отказался, сославшись на желание остаться военным юристом. На прощание начальник штаба корпуса сказал ему: «Не служба в военно-судебном ведомстве вас вынудила, капитан, отказаться от предложений графа, а несправедливое общественное предубеждение против вообще жандармов».
На тайную полицию возлагались ответственные задачи. Функции Третьего отделения определялись следующим образом: «1) все распоряжения и известия по всем вообще случаям высшей полиции; 2) сведения о числе существующих в государстве разных сект и расколов; 3) известия об открытиях по фальшивым ассигнациям, монетам, штемпелям, документам и прочим, коих розыскание и дальнейшее производство остается в зависимости от министерств финансов и внутренних дел; 4) сведения подробные о всех людях, под надзором полиции состоящих, равно как и все по сему предмету распоряжения; 5) высылка и размещение людей подозрительных и вредных; 6) заведование — наблюдательное и хозяйственное — всех мест заточения, в коих заключаются государственные преступники; 7) все постановления и распоряжения об иностранцах, в России проживающих, в предел государства прибывающих и из оного выезжающих; 8) ведомости о всех без исключения происшествиях; 9) статистические сведения, до полиции относящиеся».