Из многих «ересей», против которых выступал Августин, защищая кафолическую веру, самыми опасными были донатизм и пелагианство, и обе имели прямое отношение к учению о благодати, а конкретнее — к вопросу об отношении между благодатью и совершенством. Донатизм утверждал, что посредническая функция благодати, действующей через Церковь и таинства, искажается, если тот, кто совершает таинства, утратил свое христианское совершенство в результате впадения в тяжкий грех. Пелагианство утверждало, что человек находится в той же ситуации выбора между грехом и совершенством, что и Адам, и поэтому благодать полезна, но не необходима в том смысле, в каком учил Августин. Хронологически два эти спора едва ли вообще пересекались. Аргументы Августина против донатизма, изложенные полно и неоднократно, приобрели статус официального церковного учения на соборе в Карфагене в мае 411 года, а первый из его многочисленных трактатов против пелагианства «О воздаянии и отпущении грехов» был написан в 411 или 412 году. Слабой была и логическая (а не только хронологическая) связь между двумя этими спорами. «Учение о грехе и благодати и учение о Церкви развивались в полной независимости друг от друга… В книгах, написанных до донатистской полемики… нигде не подчеркивается, что Церковь является сферой спасения в особом смысле; нигде в антидонатистских сочинениях учение о первородном грехе не используется именно в связи с учением о Церкви». Удивительно, что не было перекрестных ссылок. Из нескольких ссылок на донатизм в антипелагианских сочинениях только одна имеет существенную параллель: «Пелагия обвиняли за то, что он сказал: "Церковь здесь [на земле] без пятна или морщины". Именно по этому самому вопросу и донатисты тоже были постоянно в конфликте с нами на нашем соборе. В их случае мы обычно ставили особое ударение на смешении злых людей с добрыми, как соломы с пшеницей, — идея, к которой нас привела метафора о гумне. Мы могли бы применить тот же пример в ответ нашим нынешним противникам [пелагианам]».
Отношение между благодатью и совершенством определялось и дебатировалось в полемике Августина с донатизмом не так, как в его полемике с пелагианством. Помимо поднимавшихся донатизмом многочисленных вопросов о церковном устройстве, о религиозных преследованиях и даже о социальном и племенном соперничестве, вставал главный доктринальный вопрос: какова причинно-следственная связь между благодатью и совершенством, или между единством Церкви и святостью Церкви? Донатистский ответ на этот вопрос прост и на первый взгляд последователен. «Совершая насилие над тем, что свято, — говорил Петилиан, — вы разрубаете узы единства». Донатисты не меньше Августина настаивали на том, что может быть лишь одна Церковь. Они претендовали и на титул «кафолическая», в чем отказывали всем остальным. Но единство и кафоличность Церкви они поставили в зависимость от ее былой святости. И потому требовали, чтобы Церковь очистилась от тех клириков и епископов, которые предали веру во время гонений. Только та Церковь является истинной Церковью, в которой «общение святых» является общением подлинных, совершенных святых. И единственной Церковью, которая удовлетворяет этому требованию, является донатистская община; только она одна сохраняет истинное единство, ибо только она обладает истинной святостью. Соответственно, только она имеет таинства. «Есть одно крещение, которое принадлежит Церкви, — говорил один донатистский епископ, — и где нет Церкви, там не может быть и крещения». Нравственное осквернение епископов церкви смертным грехом отступничества делает недействительными совершаемые ими рукоположения, уничтожает действенность совершаемого их клириками крещения, лишает Церковь необходимой святости и тем самым приводит Церковь к падению. Во имя этого требования святости донатисты чувствовали необходимость отделиться от внушительного сообщества тех, кто называл себя кафолическими христианами; ибо не может быть общения между церковью Христа (донатистами) и синагогой сатаны (кафоликами).