Творческую и исследовательскую деятельность Филонов сочетал с педагогической. Отклонив предложение правления Академии художеств занять в ней место профессора, поскольку считал систему преподавания в ней неправильной, он в 1923 г. разработал «Устав Института исследования искусства», стал одним из инициаторов создания Института художественной культуры и руководил в нем отделом общей идеологии. В том же году он опубликовал «Декларацию Мирового расцвета», на основе которой в 1925 – 1927 гг. сформировал коллектив своих учеников и последователей под названием «мастера аналитического искусства» («Школа Филонова»).
Такая интенсивная работа требовала от художника полной самоотдачи. Его рабочий день длился по 18 часов, без выходных и праздников, с короткими перерывами на еду и чтение. Выдержать такой напряженный ритм он мог только благодаря выработанной с детства привычке к аскетизму. Выросший в бедности, он умел обходиться минимумом. Впоследствии привычка переросла в осознанное ограничение условий жизни. Ратуя за новую жизнь, Филонов и сам хотел быть образцом нового человека, одного из «полчищ чернорабочих искусства, на костях которых один или двое могли бы дать бессмертные вещи». Он по-рахметовски закалял и истязал себя: спал на железной кровати без матраса, смотрел невооруженным глазом на солнце, жил в неотапливаемом помещении, жестоко ограничивал себя в еде. Словно чувствовал, что эти ограничения станут его единственным спасением, помогут выжить в годы гонений и травли.
В 1930-е гг., в пору расцвета своего творчества, художнику довелось сполна испить горькую чашу забвения. Его искусство, не укладывающееся в регламентированные рамки официоза, было признано властями ненужным и вредным. Выставка работ филоновцев в 1927 г. была расценена как «общественно-аналитический гротеск с уклоном в патологическую анатомию». Одна из критических статей, написанная в характерном для того времени жанре политического доноса, клеймила «Школу Филонова»: «Под вывеской государственного учреждения приютился монастырь с несколькими юродивыми обитателями, которые, может быть и бессознательно, занимаются откровенной контрреволюционной проповедью, одурачивая наши советские ученые органы». Художник в долгу не остался. В редких публичных выступлениях, на диспутах он также нелицеприятно бичевал противников, не понимая, что они лишь винтики в страшной машине тоталитаризма. Его дневник изобилует жутковатой лексикой того времени: «правый уклонизм», «деклассированная кучка кремлевских карьеристов», «паразиты, давно издохшие идеологической смертью», «заплывшая желтым жиром сменовеховская сволочь» и т. п. Но грамотно организованная травля в печати привела к разгрому «Школы Филонова», срыву в 1929 г. его персональной выставки в Русском музее. Художника обвинили в «контрреволюционной» тяге к непонятному искусству. Он был лишен заказов, работы, средств к существованию и фактически «выброшен» из художественной жизни страны.
В это тяжелое для него время Филонов находил поддержку и опору в своих учениках и близких, особенно в жене, умной и стойкой народоволке Екатерине Александровне Серебряковой. Они поженились в 1924 г. и прожили вместе до самой смерти художника, любовно и бережно относясь друг к другу, деля все беды и невзгоды. В 1937 г., когда жену парализовало, Павел Николаевич заботливо ухаживал за ней, учил заново говорить, писать, ходить.
О том, что ему пришлось пережить в годы гонений, Филонов с горечью писал в своем дневнике: «Ем кило или полкило хлеба в день, тарелку или две супа с картошкой. Положение мое становится грозным. Выход один – пойти на любую черную работу для заработка. Но я растягиваю последние гроши, чтобы отдалить этот "выход" – и работаю весь день как всегда, пока сон не выводит меня из строя… При моем в полном смысле слова железном, несокрушимом здоровье – я чувствую, однако, как уходит моя прежняя мускульная сила. Но рабочая энергия, воля к работе, неутомимое желание работать – крепнут».
Более 10 лет Филонов прожил в голоде и нищете, в постоянном ожидании ареста и расправы. У него отняли близких (двух пасынков и мужа сестры Евдокии, как и многих преданных учеников, арестовали). Он не продавал свои картины, завещая их государству, отказался от пенсии по состоянию здоровья, поскольку считал, что заработал ее своим вкладом в искусство.
В первые месяцы войны, в блокадном Ленинграде, Филонов все ночи проводил на крыше и чердаке дома, охраняя его от зажигательных бомб. Стоя на морозе, голодный и изможденный, он из последних сил старался спасти свои работы – результат многолетних дум, страданий и напряженного, нечеловеческого труда. Однажды, упав на темной лестнице, он больше не смог подняться. 3 декабря 1941 г. Филонов скончался. Единственной почестью, которой наградил его Союз художников, стали доски для гроба, что по тому времени считалось роскошью.