Сам министр публично заявлял, что от Лопухина он ожидает более строгого следования букве закона. «Сила революционных партий, — цитирует Плеве французский журналист, — отражает лишь слабость полиции… Я уверен, что новый директор полиции прекрасно справится со своей задачей». Став во главе полиции, занимавшейся всем на свете, начиная от наблюдения за импортом и кончая контролем за потреблением алкоголя, Лопухин особенно тщательно занялся двумя подчиненными ему подразделениями. Первым из них был корпус жандармов — политическая полиция, открыто существовавшая на территории всей империи. Вторым — тайные охранные отделения. Лопухин не имел непосредственной власти над городской полицией — третьим основным звеном в полицейской системе.
По словам Лопухина, он получил от Плеве мандат на проведение следующих акций: 1) уменьшить число местных охранных отделений, чтобы усилить личное непосредственное руководство действующими агентами; 2) ограничить процедуры политических расследований строгими рамками закона; 3) положить конец односторонним «административным» мерам воздействия, подвергая задержанных лишь наказаниям, предусмотренным законодательством. (Последняя реформа также подразумевала автоматическое освобождение задержанных, если правительство не имело достаточных законных оснований для начала судебного разбирательства.) Лопухин утверждает, что в соответствии с этими изменениями Плеве также пообещал отменить указ от 14 августа 1881 г., предоставлявший «особые» полномочия местным властям при задержании подозреваемых революционеров и расследовании их дел. Все законодательные процедуры должны были соответствовать «принципам, введенным указом Александра II».
Лопухин давно отстаивал эти реформы, направленные против произвола при ведении политических дел и самоуправства полиции. Он утверждал, что полицейские агенты часто обыскивают и арестовывают подозреваемых без достаточных на то оснований, произвольно решая судьбы людей, оказавшихся в их власти, а «в сумме и всей России».
Реформировать огромную организацию жандармов, перешедшую в его подчинение, было бы крайне сложно, поэтому Лопухин решил начать с охранных отделений, более подвижных и малочисленных, с достаточно четкими, государственно важными задачами и целями.
Став директором Департамента полиции, Лопухин произвел некоторые изменения в кадровом составе, чтобы обеспечить дисциплину и законность во вверенных ему организациях и избавиться от непослушных чинов полиции. Прежде всего он потребовал, чтобы Плеве назначил нового начальника заграничной агентуры, помещавшейся в русском посольстве в Париже. Тогда эту должность занимал своенравный П.И. Рачковский, который обычно действовал, не дожидаясь одобрения из Петербурга, и за которым числились даже уголовные дела. Лопухин, например, считал, что один из агентов Рачковского был среди анархистов, организовавших взрыв в Льеже.
Далее, Лопухин назначил своего московского сподвижника Зубатова начальником Особого отдела. Чтобы обеспечить строгую законность в ведении политических дел, проведении обысков и арестов, Лопухин передал основные полицейские функции силам безопасности под руководством Зубатова (ранее жандармы пользовались всей полнотой власти, и их произвол снискал печальную славу). В свою очередь Зубатову он поручил назначить начальников охранных отделений из молодых жандармов, ранее в полиции не служивших. Лопухин считал, что они скорее подчинятся его требованиям о строгом соблюдении законов. С другой стороны, чтобы взять под контроль рабочие волнения, новый директор Департамента полиции поручил Зубатову найти организаторов для создания рабочих кружков в провинции. Одной из основных задач охранки был полицейский розыск преступников и революционеров, и начальником розыскного отдела охранки Лопухин назначил Е.П. Медникова, надежного ветерана полиции.
Рамки законности остались прежними — новым был подход Лопухина, требовавшего от полиции строгого исполнения закона. При прежних директорах полиция легко игнорировала закон для достижения своих целей.
Чтобы понять, почему либерал согласился возглавить тайную полицию, необходимо познакомиться с некоторыми взглядами Лопухина на существующую в России ситуацию. Он считал, что для борьбы с террористами и революционерами правительству необходимы секретные агенты и осведомители. Позднее Лопухин сам говорил на суде: «В России, при существовании революционных организаций, полиции обойтись без агентуры совершенно невозможно. Для меня весь вопрос сводился к тем границам, в которых агентура может существовать и действовать». По словам Лопухина, к моменту его назначения крестьянские волнения в Харькове и Полтаве ознаменовали для него «начало русской революции».