В Саратове он сопротивлялся судьбе — пытался играть по новым правилам. Подчиненным чекистам ставил задачу искать врагов народа среди руководящих партийных и советских работников. В Саратовском управлении тогда активно использовали агентов, подсаживали их в камеры для влияния на подследственных. Дела росли, обрастали показаниями. Но организатором массовых репрессий он все же не стал. Не смог пустить большую кровь. Этого ему не простили.
В июле 1937 года в Саратов нагрянули секретарь ЦК ВКП(б) А. Андреев и заведующий отделом ЦК партии Г. Маленков. Визит партийных контролеров окончательно решил судьбу Агранова. Вот их записка Сталину: