Наконец, в-третьих, Шувалов обратил внимание на организацию наружного наблюдения и секретную агентуру. В Петербурге и Москве он установил слежку за подозрительными лицами при помощи сотрудников, негласно принятых на службу в городскую полицию еще при Долгорукове. Шувалов надеялся на добровольных осведомителей из верноподданных граждан, которым предлагалось сообщать о подозрительных фактах в жандармские наблюдательные пункты.
Как и все начальники Третьего отделения, Шувалов поощрял платных осведомителей, хотя многие из них оказывались совершенно бесполезными. Начальник 3-го секретариата К.Ф. Филиппиус, вступивший в должность в 1869 г., называл этих осведомителей агентами и отзывался о них не очень лестно: «1 апреля мне впервые были вручены суммы, и вслед за тем представились мне господа агенты, а именно один убогий писака, которого обязанность заключалась в ежедневном сообщении городских происшествий и сплетен. Первые он зауряд выписывал из газет, а последние сам выдумывал; кроме того, ко мне явились: один граф, идиот и безграмотный; один сапожник с Выборгской стороны — писать он не умел вовсе, а что говорил, того никто не понимал и с его слов записать не мог; двое пьяниц, из коих один обыкновенно пропадал первую половину каждого месяца, а другого я не видел без фонаря под глазами или царапин на физиономии; одна замужняя женщина, не столько агентша сама по себе, сколько любовница и сподручница одного из агентов; одна вдовствующая хронически беременная полковница из Кронштадта, и только два действительно ловких агента».
Когда Шувалов сменил Долгорукова, судебная реформа уже вступила в силу, и стало совершенно очевидным, что практику старого ведомства необходимо привести в соответствие с новыми юридическими требованиями.
31 декабря 1866 г. Шувалов разослал две инструкции (одну — открытую, другую — совершенно секретную) жандармам. Первоначально эти инструкции предназначались для Польши, но через год они вступили в силу на территории всей империи. В первой инструкции, которая была напечатана, Шувалов призывал жандармов уважать новые юридические институты, возникшие после судебной реформы, и подчиняться им. Он также ограничил полномочия жандармов при расследовании преступлений и запретил им заниматься делами, по которым уже ведется судебное разбирательство.
При этом в своей секретной инструкции Шувалов учил жандармов не передоверять политические дела судебному разбирательству, если есть необходимость провести расследование собственными силами. В той же инструкции он особо остановился на роде деятельности, которая ни в одной из его опубликованных инструкций не упоминается, — на слежке за населением. Он призывал своих подчиненных «наблюдать за нравственным направлением духовенства… обращать особое внимание на дух школ», продолжать бдительно следить за газетами и настроениями в армии. Жандармам вменялось в обязанность «доводить до сведения начальства о всяком покушении взволновать умы изустными проповедями с помощью речей» и особенно следить за офицерами, если они вздумают «давать подчиненным литературные вечера или участвовать в оных».
Хотя инструкция давалась тайно, содержание ее не удалось скрыть, и направление этого документа было очевидным. Многие были обеспокоены, как это видно из письма барона А.П. Николаи бывшему министру народного просвещения А.В. Головкину от 6 апреля 1867 г. Двуличный Шувалов, жалуется Николаи, делает своих жандармов всеобщими «судьями, распорядителями всем, дает права вмешательства во все без исключения». Известный славянофил И.С. Аксаков, которому случайно довелось прочитать этот секретный документ, иронически заметил: «Чтобы создать такую инструкцию, надо обладать нешуточной фантазией и, отрешившись от мира действительности, допустить сверхъестественное, т. е. что все офицеры Отдельного корпуса жандармов имеют более чем солидное энциклопедическое образование в сфере всех научных знаний, не исключая даже торгового дела».
9 сентября 1867 г. Александр II узаконил предложения Шувалова по реорганизации Третьего отделения. Законодательство отражало убеждение Шувалова, что отношение к Третьему отделению со стороны общественности должно измениться. Жандармы объявлялись национальной полицией, действующей в соответствии с Уголовным кодексом и Судебной реформой. Очень важно, что в новом законе жандармы именовались «наблюдательным корпусом». Подчеркивалось, что основная задача жандармов — наблюдать за обществом, а не наводить порядок, поэтому жандармам разрешалось заниматься преступниками лишь в двух случаях: когда местной полиции не было на месте преступления или когда полиция не могла справиться с беспорядками и обращалась к ним за помощью.