Идейные споры в рамках католической реформы привели к возникновению в XVII в.
Фламандский епископ Корнелиус Янсений (1585–1638), который был профессором в Лувене, в книге «Августин» (опубликована после его смерти, в 1640 г.) выступил с отрицанием догмата о свободе воли и защитой идеи предопределения. Он учил, что обращение приходит через благодать, которая является неотвратимой и которую не может познать рассудок. Янсений доказывал, что человеческая природа порочна, поэтому спасение доступно лишь немногим избранным и зависит только от милости Бога. Воззрения Янсения широко распространились среди благочестивых французов. Расположенный неподалеку от Парижа монастырь Пор-Рояль стал центром янсенизма. У янсенистов были сторонники среди французского епископата и клира, докторов теологии и рядовых верующих, среди парламентариев и влиятельных особ королевского двора. В защиту янсенистов в середине XVII в. выступал знаменитый математик Блез Паскаль, который принял это учение и был тесно связан с монастырем Пор-Рояль, где его сестра Жаклина была монахиней.
В 1653 г. папа Иннокентий X осудил учение янсенизма. Папа Климент IX (1667–1669) потратил много сил на споры с янсенистами, которые пошли на компромисс, и было достигнуто временное перемирие.
Нападки иезуитов на учение Янсения были связаны с отстаиванием им внутренней религиозности человека и отрицанием обязательности спасения через угодные католической церкви «добрые дела». По сути спор шел между двумя концепциями христианской жизни: одну отстаивали янсенисты, другую — иезуиты. Янсенисты выступали за суровый, аскетический образ жизни при страстной вере в Бога. Они добивались усилении роли низшего клира и мирян в жизни церкви, многие из них ратовали за использование на литургии французского языка вместо латыни. Янсенисты и их сторонники активно выступали с критикой казуистики и иезуитской морали, оправдывавшей любые действия, совершаемые «на благо» католической церкви. Поскольку вопреки воле французского короля часть епископата и теологов Сорбонны поддерживала янсенистов, это еще больше осложняло отношения французской церкви с Римом.
Новый лидер янсенистов, ораторианец П. Кенель, в 1693 г. выпустил «Новый завет с моральными размышлениями», который не вызвал негативной реакции ни в Риме, ни в Париже. Однако после выхода в свет в начале XVIII в. его следующей книги «Одна проблема совести», в которой он выразил сомнение в априорной непогрешимости любого решении церкви для каждого конкретного случая, разразился скандал. Позицию Кенеля поддержали доктора Сорбонны, часть французского епископата и парламентарии. Ни увещевании, ни угрозы не помогали, и Людовик XIV обратился за помощью к римскому папе. По просьбе короля папа Климент XI (1700–1721) издал в 1705 г. буллу, в которой осуждались тезисы Кенеля о приоритете права совести верующего. Однако булла вызвала возражения у части французского епископата, которая отказалась ее принимать. Тогда Людовик XIV начал прямые репрессии против янсенистов. Часть епископов и богословов заставили отказаться от своей позиции, наиболее строптивых отправили в тюрьмы, отстранили от занимаемых мест. Монастырь Пор-Рояль был расформирован, и по указу короля в 1709 г. сами его здания были разрушены. Поскольку часть французских янсенистов нашла убежище в Нидерландах, то их стали представлять политическими противниками Франции.
Тем временем иезуиты отыскали янсенистскую крамолу и в первой книге Кенеля, и по их ходатайству папа передал ее на рассмотрение специальной комиссии. Итогом этого стала булла Климента XI «Unigenitus», опубликованная в 1713 г. В этой булле папа осудил все теологические тезисы Кенеля. Одновременно были осуждены призывы янсенистов вернуться к раннехристианской церкви и предоставить всем христианам право самостоятельно читать и толковать Библию.
Однако и эта папская булла не была безоговорочно принята французским епископатом. Часть духовенства потребовала для решения этого вопроса созвать вселенский собор. Французский клир разделился на тех, кто подчинился церковной дисциплине и принял буллу, и тех, кто ее не принимал и требовал созыва собора. В 1718 г. новой буллой папа осудил сторонников созыва собора и под угрозой отлучения вновь потребовал признать буллу «Unigenitus». Попытки разрешить вопрос с помощью репрессивных мер со стороны королевской власти и церковной иерархии не могли утихомирить страсти. В правление Людовика XV были найдены компромиссные решения. К середине XVIII в. и сам янсенизм начал вырождаться, однако янсенистские споры продолжались (постепенно затухая) до конца XVIII в.