Стремительный рост преступности после отмены крепостного права побудил властей ускорить принятие ответных мер. Устав уголовного судопроизводства 1864 года предусматривал ведение следствия специальными должностными лицами при судах — судебными следователями. Они получали информацию о преступлениях из различных источников, занимались их расследованием и передавали собранные материалы прокурору для подготовки обвинительного заключения и передачи дела в суд. Роль полиции сводилась исключительно к фиксации событий преступления и сохранению вещественных доказательств или преследованию преступника по горячим следам. Мероприятия по розыску преступников, проведению обысков и допросов свидетелей проводились уже судебным следователем, а полицейские служащие оказывали ему всемерную поддержку.
Очень скоро обнаружилась потребность в специализированных сыскных учреждениях с расширенным кругом полномочий. 4 (16) апреля 1866 года решающим толчком к появлению такого ведомства в столице послужило покушение Д. В. Каракозова на императора Александра II. Преступник был задержан на месте происшествия, но проблемы полиции, допустившей неслыханное бесчинство, стали ощущаться еще отчетливее. Таким образом, в 1866 году в Санкт-Петербурге появилась сыскная полиция при канцелярии столичного обер-полицмейстера Ф. Ф. Трепова.
Цели учреждения сыскной полиции Трепов определил так: «Существенный пробел в учреждении столичной полиции до 1866 года составляло отсутствие особой части со специальной целью производства исследований для раскрытия преступлений и изыскания общих мер к предупреждению и пресечению преступлений. Обязанности эти лежали на чинах наружной полиции, которая, неся на себе всю тяжесть полицейской службы, не имела ни средств, ни возможности действовать с успехом в указанном отношении. Для устранения этого недостатка и учреждена сыскная полиция».
В первые 10 лет работы штат и бюджет сыскной полиции не соответствовал объему возложенных на нее задач. В густонаселенной столице ежедневно случалось множество преступлений, каждое из которых требовало внимания сыщиков. Несмотря на ограниченность в ресурсах, статистические данные говорили об эффективной работе этого ведомства. К примеру, за 3 года с 1870 по 1872 г. эффективность успешно произведенных розысков превышала 60 %, а количество задержанных подозрительных лиц и преступников выросло с 1232 человек в 1870 году до 1577 в 1871 году и 1613 в 1872 году, фотографических карточек с преступников отснято 6084 в 1870 году, 6112 в 1871 году и 8230 в 1872 году (с каждого преступника снималось несколько карточек).
Успешный опыт столичной сыскной полиции повлиял на открытие аналогичных учреждений в крупных городах империи. В 1874 году появилось сыскное отделение Варшавской полиции, в 1880 году — сыскная часть Киевской городской полиции, в 1881 году — Московская сыскная полиция, в 1888 году — Рижское сыскное отделение, в 1898 году — временное отделение при канцелярии Одесского полицейского управления, в 1906 году — Бакинская и Ростово-Нахичеванская сыскные части.
Между тем увеличение числа сыскных частей не успевало за ростом преступности. Особенно резко криминогенная ситуация ухудшилась во времена Первой русской революции 1905–1907 гг. Статистические данные зафиксировали кратный рост ключевых показателей: за период с 1899 по 1908 г. количество преступлений против жизни возросло с 16 293 до 33 053, насильственных похищений имущества — с 20 322 до 47 107, краж — с 63 328 до 108 507. За тот же период число осужденных окружными судами выросло на 66 %, а ежегодный рост преступности составил 7 %.
При столь значительных темпах сыскные части не могли одинаково эффективно проводить розыск по всем преступлениям. Это красноречиво подтверждала доля прекращенных уголовных дел из-за невозможности найти виновных. К примеру, за период с 1902 по 1904 г. почти каждое шестое уголовное дело, в отношении которого проводилось предварительное следствие, оставалось нераскрытым. Основная причина такой статистики крылась в недостатке полицейских кадров, осуществлявших розыск преступников. К тому же структурная разрозненность сыскных частей создавала сложности в координации их работы. Назревали новые реформы сыскной деятельности.
В марте 1908 года в Департаменте полиции МВД появился Отдел уголовно-сыскной части, задачами которого значились «общее наблюдение за деятельностью сыскных отделений в Империи, руководство сформированием новых отделений, снабжение их необходимыми пособиями, сосредоточение регистрации преступности, издание инструкций и циркуляров». В том же году Государственная Дума приняла важный закон «Об организации сыскной части». Закон предписывал к уже функционирующим сыскным частям создать еще 89 сыскных отделений в различных городах и уездах. Сыскная сеть должна была покрыть большую часть страны. При всех своих недочетах закон позволил организовать общероссийскую систему сыскной полиции, которая вносила весомый вклад в борьбу с преступностью.