Новое отношение к церкви рождалось не сразу. Первые реформаторы отнюдь не собирались разрушать сложившуюся церковь. Сама идея деноминации была еще неизвестна в 16в. Схизма казалась страшнее любой ереси. М. Лютер в начале 1519г. писал: "Даже если, к сожалению, в Риме и есть вещи, которые нельзя изменить, нет - и не может быть - никакой причины для ухода из Церкви в схизму. Напротив, чем хуже становится положение вещей, тем больше ей нужно помогать и отстаивать ее, ибо с помощью схизмы и неподчинения ничего нельзя исправить" (55,с.231). В своем 50-м тезисе он писал, что "если бы папа узнал о злоупотреблениях, совершаемых при продаже индульгенций, он предпочел бы, чтобы собор святого Петра сгорел дотла, чем строить его из костей и крови христиан". Не сразу и неохотно он пришел к выводу, что католическая церковь потеряла право именоваться подлинно христианской церковью и потому именно, что упустила доктрину оправдания одной верой. Он объявил, что эта доктрина была "статьей, на которой Церковь стоит или падает" (articulus stantis et cadentis ecclesiae). Даже в "Аугсбургском вероисповедании" 1530г., принадлежащем, в основном, перу Филиппа Меланхтона, отношение к церкви все еще остается достаточно примирительным, хотя папство как институт было уже осуждено. Еще в своем трактате "Вавилонском пленении церкви" Лютер обвинил папство в том, что оно затемнило первоначальное значение таинств и сделало монополией церковной иерархии то, что принадлежит всем христианам. В своих работах 1520г. он подводит папство под самое страшное из обвинительных понятий Евангелия "антихристово установление". Если ереси под это понятие подводили отдельных пап или, в крайнем случае, римскую курию, то лютеране обвинили весь институт в том, что он присвоил себе функции Бога прощать грехи и судить человека. Лютер всерьез обсуждает вопрос о необходимости крестового похода на Рим, хотя и предпочитает пока массовое ненасильственное сопротивление Риму: "Я не хотел бы, чтобы Евангелие отстаивалось насилием и пролитием крови. Слово победило мир, благодаря слову сохранилась церковь, словом же она и возродится, а антихрист, как он добился своего без насилия, без насилия и падет" (из письма Францу фон Зиккингену).
Надежды на "примирение" с католиками стали рассеиваться после Регенсбургского сейма 1541г. и особенно после начала работы Тридентского собора (1545-1563). Именно этот собор и осудил окончательно основные идеи протестантизма. Протестантские церкви должны были теперь оправдывать свое автономное существование наряду с институтом, который основывался на многовековой традиции.
По этой причине особый всплеск интереса к проблеме церкви в протестантизме приходится именно на 40-е годы 16в. И именно в сочинениях Ж. Кальвина эта проблема получила на тот период всестороннее рассмотрение. Неудивительно, что в этом вопросе Кальвин не только отталкивается от некоторых положений своего предшественника М. Лютера, но и вступает с ним в полемику.
Лютер делает акцент на Слове Божьем. Средневековая церковь была испорчена, а ее доктрина искажена либо отходом от этого Слова, либо добавлениями к нему, сделанными людьми. Однако везде, где Слово добивается истинного подчинения Богу, возникает Церковь: "Надежным признаком, по которому можно узнать христианскую конгрегацию, является то, что там проповедуют чистое Евангелие. Точно так, как знамя является знаком того, какой военачальник и какая армия находятся перед вами, так и Евангелие является знаком, по которому можно определить, где находится лагерь Христа и Его воинство... Соответственно, где Евангелие отсутствует, а правят лишь человеческие учения, там нет христиан, а лишь одни язычники, независимо от их числа и того, какую бы праведную жизнь они не вели" (55,с.233). Поэтому для существования церкви обязательно не рукоположенное епископами духовенство, а проповедь Евангелия: "Где есть Слово, там есть вера, а где есть вера, там есть истинная Церковь". Ни одно человеческое собрание не может претендовать на звание Церкви Божией, если оно не основано на Евангелии. Такое понимание церкви является, так сказать, функциональным, а не историческим, ибо право на существование церкви определяется не исторической, а богословской преемственностью с апостольской церковью. Важнее проповедовать то же Евангелие, что и апостолы, чем быть членом института, который исторически к ним восходит. Аналогичное понимание церкви можно найти и у Филиппа Меланхтона.