Впервые в русской истории и в полном собрании законов встречаемся мы с учреждением жандармов, и в русский язык вводится новое, совершенно до того неизвестное слово "жандарм". В 1815 году, когда именным высочайшим указом императора Александра I от 27 августа того же года, данным генерал-фельдмаршалу графу Барклаю-де-Толли, поведено было Борисоглебскому драгунскому полку именоваться жандармским полком и нести военно-полицейские обязанности. Жандармы были распределены по полкам армии и поставлены в непосредственное подчинение генерал-гевальдигеру, как военному полицеймейстеру, в лагере армии, в главной квартире и в Валенбурге. 27 декабря того же 1815 года был сформирован на тех же основаниях жандармский гвардейский полуэскадрон.
Затем высочайшим указом 1 февраля 1817 года учреждены были конные "жандармы внутренней стражи" ввиду необходимости и пользы конных отрядов в составе внутренней стражи. Эти команды жандармов находились в столицах, губернских городах, а также в портовых городах - Одессе, Таганроге и Феодосии, - в непосредственном подчинении и ведении губернских начальников отдельного корпуса внутренней стражи, причем во главе команд в губернских и портовых городах стояли начальники жандармов на правах ротных командиров, а в столицах - дивизионные командиры, начальствующие над двумя эскадронами и подчиненные обер-полицмейстеру.
С образованием по высочайшему повелению 3 июля 1826 года III Отделения собственной Е. В, канцелярии, в ведение которого перешли из упраздненной особой канцелярии Министерства внутренних дел все распоряжения по делам высшей государственной полиции, как то: высылка и размещение людей подозрительных и вредных, заведование поднадзорными и местами заключения государственных преступников, дела о раскольниках, иностранцах, подделке документов и фальшивых денег и т.п., - явилась необходимость в создании особого органа для непосредственного собрания сведений и выполнения на месте распоряжений этого учреждения, и для означенных целей по высочайшему повелению 28 апреля 1827 года учрежден был корпус жандармов, шефом которого был назначен командующий императорскою главною квартирой и главный начальник III Отделения генерал-адъютант Бенкендорф, впоследствии граф.
По высочайшему повелению 1 июля 1836 года жандармские конные команды были выделены из состава отдельного корпуса внутренней стражи и переданы в ведомство корпуса жандармов.
Положение 1836 года почти без всяких изменений вошло в свод военных постановлений 1859 года, причем за это время состав корпуса жандармов увеличился учреждением 8-го сибирского округа, включением в состав корпуса жандармских дивизионов, подчинением шефу жандармов состоящих при войсках жандармских частей, а затем учреждением полицейских управлений железных дорог и образованием уездных жандармских управлений шести губерний северо-западного края. Таким образом, все без исключения жандармские части к 1867 году были объединены в лице шефа жандармов. В 1867 году высочайше было утверждено положение о корпусе жандармов и главное управление корпусом сосредоточено в лице шефа жандармов, которому все управления и части корпуса, его составляющие, непосредственно подчинены и находятся в исключительном его ведении, по строевой части - через штаб корпуса жандармов, а по наблюдательной - через III Отделение собственной Е. И. Б, канцелярии, а впоследствии, по упразднении сего отделения, - через департамент полиции.
Этим положением все части корпуса, как то: губернские жандармские управления, наблюдательный состав корпуса, а равно уездные жандармские управления несут обязанности только наблюдательные, содействуя, впрочем, к восстановлению нарушенного порядка только в том случае, когда будут приглашены к тому местными властями; по собственному же побуждению они принимают непосредственное участие в охранении общественного спокойствия только при неопытности на месте чинов исполнительной полиции; в наблюдательном же отношении, составляющем служебное назначение жандармов, обязанности их определяются особыми инструкциями.
Вышедший закон 19 мая 1871 года, по инициативе шефа жандармов генерал-адъютанта графа Петра Андреевича Шувалова, установив, с одной стороны, правила о порядке действий чинов корпуса жандармов по исследованию общих преступлений, ввел, с другой - порядок действий сих чинов по производству дознаний о преступлениях государственных, на основании точных, согласованных с судебными уставами 20 ноября 1864 года узаконений, и связав с 1871 года действия чинов корпуса жандармов с деятельностью органов обвинительной и судебной власти, вместе с тем ясно определил как порядок действий их чинов, так и степень их ответственности.