В Августиновом богословии благодати крещение младенцев доказывало не только всеобщую необходимость благодати, но и объективное посредничество благодати. Если благодать Божия самовластна в своей действенности, нельзя утверждать, что Бог абсолютно связан Церковью и таинствами; однако Он связан с ними. Тайна благодати не разрешается простым определением того, кто внешне принадлежит к церковной общине или кто был крещен. Необходимо «отличать видимое святое таинство, которое может существовать и в добрых, и в худых… от невидимого помазания любви, которое является особой принадлежностью добрых». Однако та же тайна, которая исключает эмпирические суждения о том, кто предопределен, а кто — нет, обязывает верующего полагаться на тайнодействия Церкви; ибо предвидение и предопределение Божий распространяются не только на цель, которую Он имеет в виду, то есть спасение избранных, но и на средства, использование которых создает возможность праведной жизни. Поэтому учение о предопределении, даже двойном предопределении, не исказило сакраментальное учение Августина, что имело место у некоторых других богословов. Его взгляды на предопределение более серьезно повлияли на его учение о Церкви, чем на его учение о таинствах. Никоим образом не является самоочевидным, что те, кто «участвуют в таинствах физически», должны считаться членами Церкви как тела Христова. Ибо «в неизреченном предвидении Божием многие, находящиеся как бы вовне, на самом деле внутри, и многие, находящиеся как бы внутри, тем не менее на самом деле находятся вовне»; а поэтому истинная Церковь состоит из «определенного числа святых, предопределенных прежде основания мира», даже если некоторые из них ныне погрязли в ереси и пороке. Они принадлежат граду Божию, предопределенные и избранные благодатью, чуждые здешнему, низшему, но граждане высшего. Если определять Церковь таким образом, тогда вполне логично утверждать, что у Бога нет никого, кто был бы вне церковного общения.
Это определение Церкви как «числа предопределенных» постоянно фигурировало в полемике позднего Средневековья и эпохи Реформации, которая велась против институциональной Церкви, но в богословии Августина оно выполняло прямо противоположную функцию. Оно позволило ему проводить различие между членами эмпирической кафолической Церкви и сообществом тех, кто будет спасен, и в то же время настаивать на том, что эмпирическая кафолическая Церковь — единственная, в которой совершается спасение; «ибо именно Церковь дает рождение всему». Хотя Бог предопределяет, «мы, на основе того, что человек представляет собой прямо сейчас, спрашиваем, следует ли сегодня считать их членами Церкви». Именно в Церкви, какова она сейчас, следует искать благодати, руководства и авторитета. Принимающие «авторитет Писания как самый главный» должны также признать и «тот авторитет, который со времени [земного] присутствия Христа посредством заповеданного апостолами и непрерывного преемства епископов на их престолах сохраняется до сего дня по всему миру». Этот авторитет ортодоксального кафолического христианства, «начатый чудесами, вскормленный надеждой, умноженный любовью, установленный древностью», настолько велик, что даже подтверждает авторитет самой Библии. «Со своей стороны, — заявлял Августин, — я не должен верить Евангелию, кроме как подвигаемый к этому авторитетом кафолической Церкви». В то же время он четко различал авторитет Библии, которая не нуждается ни в каком исправлении, а только в послушании, и авторитет позднейших епископов, которые нуждаются в том, чтобы их мнения поверялись ею. Тот, кто не может подтвердить свою позицию ссылками на Библию, «не должен надолго задерживать наше внимание». Однако между авторитетом Библии и авторитетом кафолической Церкви (который является авторитетом ее нескольких епископов, прошлых и настоящих, но представляет собой и нечто большее) не может быть никакого противоречия. Именно здесь можно обрести умиротворение — в «месте, где покоится авторитет», не в неведомом числе тех, кто принадлежит к сообществу избранных, а в институте спасения, который может претендовать на то, что основан Христом и преемственно восходит к апостолам.