Если так обстояло дело в 60-х годах, когда жандармерия мобилизовала свои силы для борьбы с поднимающейся революционной волной, то в предшествующую эпоху, гораздо более спокойную, наблюдение было поставлено еще хуже. Постоянные агенты, слонявшиеся по рынкам и трактирам и редко-редко проникавшие в дома так называемого «приличного общества», могли поставлять только материалы «слухов и толков». На помощь им приходили шпионы-добровольцы, но сведения их на 90 % оказывались ложными; чаще всего доносы эти появлялись в результате сведения мелких личных счетов. Впрочем, III Отделение, памятуя, что в хорошем хозяйстве «и веревочка пригодится», никогда не отказывалось от их услуг, хотя наперед знало, что, скорее всего, дело кончится разочарованием. Не приносила значительных материалов и перлюстрация писем: это видно по тем совершенно безобидным письмам, которыми все же интересовались жандармские чины в чаянии хоть какой-нибудь поживы. Что касается постоянного наблюдения, то оно, по-видимому, производилось сравнительно редко и чаще всего работало вхолостую.
Так, например, в мае 1849 года в районе Зимнего дворца стал ежедневно гулять какой-то подозрительный незнакомец. Время было смутное, а место для прогулок было выбрано такое, что переполошилось не только III Отделение, но и все высшие власти. За неизвестным было установлено «наблюдение». 4 мая он на прогулку вовсе не вышел, чем очень смутил Дубельта: уж не скрылся ли? 5 мая он уже был задержан и оказался совершенно безвинным отставным драгунским поручиком. В оправдание своей ретивости Дубельт сообщал: «Кажется, что он несколько расстроен в уме». Но, вероятно, это пустая отговорка: жандармы любили, когда у них не было никакого материала для обвинения, уличать своих жертв в сумасшествии…
Сравнительно слабо по сравнению с последующим периодом организован был и внутренний справочный материал Отделения. В позднее опубликованном отчете за 1828 год Бенкендорф писал: «За все три года своего существования надзор отмечал на своих карточках всех лиц, в том или ином отношении выдвигавшихся из толпы. Так называемые либералы, приверженцы, а также и апостолы русской конституции в большинстве случаев занесены в списки надзора. За их действиями, суждениями и связями установлено тщательное наблюдение». Карточки эти до нас не дошли, но трудно предполагать, чтобы они были составлены сколько-нибудь организованно. Во всяком случае, в сохранившемся до нашего времени большом личном алфавите III Отделения помещены были только те фамилии, которые стояли в заголовках дел. Обычно при столкновении с III Отделением какого-нибудь лица управляющий требовал архивную «справку» о данном обвиняемом или просителе. И если на него специального дела заведено не было, архив отвечал, что сведений нет. Только в 70-х годах был налажен справочный аппарат, использовавший не только обложки, но и содержание делопроизводства.
Систему политического сыска организовать, таким образом, не удалось. Местные представители жандармской власти должны были полагаться на свою наблюдательность, на случайные открытия агентов и, главное, на всемерно поощряемое добровольное доносительство. Этим и объясняется мелочной контроль, установленный жандармами над самыми безобидными проявлениями общественной жизни. Дворянские балы, дружеские пирушки, собрания любителей карточной игры — все это, вплоть до семейной жизни обывателей, бралось под надзор. Поэтому-то жандармская опека и казалась такой трудной русским интеллигентам, а сами жандармы — «всеведущими». Знали-то они действительно многое, но сведения их ограничивались «слухами и толками» и подглядыванием в замочную скважину. И неслучайно произошло, что самое крупное политическое дело николаевского царствования — кружок петрашевцев — было раскрыто не жандармской агентурой, а конкурировавшей организацией — Министерством внутренних дел, в ведении которого оставалась обычная полиция.
Эта конкуренция, сильно затруднявшая действия III Отделения, началась с самого его зарождения. Уже 20 июля 1826 года Фок жаловался Бенкендорфу: «Уверяют, что городская полиция, заметив, что существует деятельный надзор, собирается развернуть все находящиеся в ее распоряжении средства, дабы первой узнавать все, что делается, и будто бы на расходы полиции собственно на этот предмет прибавлено по 300 р. в месяц; говорят даже, что Фогель получит прибавку в 3000 рублей, чтобы иметь возможность следить за всем с большею деятельностью и с большим успехом».
10 августа Фок жалуется снова, на этот раз уже на слежку, установленную городской полицией за его собственной агентурой: «Полиция отдала приказание следить за моими действиями и за действиями органов надзора. Полицейские чиновники, переодетые во фраки, бродят около маленького домика, занимаемого мною, и наблюдают за теми, кто ко мне приходит… Ко всему этому следует прибавить, что Фогель и его сподвижники составляют и ежедневно представляют военному губернатору рапортички о том, что делают и говорят некоторые из моих агентов».