Той же осенью 1918 года, невзирая на эту «охранную грамоту», начались прямые преследования семьи. Павла Сергеевича арестовали в ноябре 1918 года вместе с другими членами семьи, но вскоре отпустили. Его арестовывали и еще раз, но, к счастью, ненадолго. Надо было решать вопрос о том, что делать дальше. О том, чтобы покинуть Россию, не могло быть и речи. Павел Сергеевич поступил на службу в Главархив, образованный декретом Совета народных комиссаров в середине 1918 года. В январе 1919 года для спасения и систематизации гибнущих культурных ценностей Коллегия Главархива постановила создать при Московском отделении особое хранилище частных архивов (Хранчасарх), которое расположилось в подвалах шереметевского особняка на Воздвиженке. Инспектора П.С. Шереметев направили на работу в это хранилище, поскольку он хорошо представлял ценность многих усадебных и вообще частных архивов. Одними из первых он спас архив и библиотеку известного ему лично генеалога Николая Владимировича Мятлева. В числе сохраненных для потомков были также родовые архивы Шереметевых из усадьбы Михайловское и Вяземских из Остафьева. При хранилище образовали особое Бюро усадебно-генеалогических справок, его также возглавил Шереметев. К июню 1919 года он составил более полутора тысяч карточек со сведениями о частных усадебных архивах. Примерно через год, когда хранилище перестало существовать как самостоятельное учреждение, П.С. Шереметев становится заведующим и хранителем Музея-усадьбы в родном ему Остафьево.
Летом 1921 года в Остафьеве состоялась свадьба Павла Шереметева с Прасковьей Васильевной Оболенской (1883 – 1942). Она – дочь бывшего вице-губернатора Москвы князя Василия Васильевича Оболенского и его жены княгини Марии Алексеевны, урожденной княжны Долгорукой. В семье было 12 детей. Несмотря то что Оболенские принадлежали к самым аристократическим родам России, они не обладали значительным состоянием и не занимали накануне 1917 года видных постов по службе. Возможно, поэтому многие ее члены остались на родине после революции, и на долю их выпали немалые испытания.
Работая в Остафьево, Павел Сергеевич оберегал парк, дом с его залами и гостиными, семейные реликвии, в числе которых было немало и пушкинских, уникальную библиотеку. Он разрабатывал и устраивал музейные экспозиции, посвященные Вяземским, Карамзину, Пушкину и всем тем деятелям русской культуры, кто работал или бывал там.
В 1927 году он и все члены его семьи (мать, жена и сын), как лица дворянского происхождения, были лишены гражданских прав. Вслед за этим Павла Сергеевича как «лишенца» сняли с должности заведующего, однако он оставался в музее научным сотрудником до осени 1928 года, когда его уволили. Перед ним встала угроза выселения вместе с семьей из Остафьево. В январе 1929 года умерла его мать, и решено было похоронить ее на кладбище у остафьевской церкви, находящейся напротив усадебного дома. На похороны Екатерины Павловны Шереметевой собрались все оставшиеся в Москве родные и знакомые – вся «старая Москва», что вызвало гнев властей. Вскоре в газете «Комсомольская правда» появилась статья с призывами закрыть музей и немедленно выселить бывшего графа, владевшего в прошлом несколькими имениями. Решением Моссовета в 1929 году Музей в Остафьево закрывается, его коллекции разошлись по многим музеям, архивам и библиотекам. Павел Сергеевич стойко перенес этот удар и нашел в себе силы работать дальше.
Он числился сотрудником Наркомпроса. Благодаря хлопотам В.Д. Бонч-Бруевича П.С. Шереметев получил персональную «Лермонтовскую» пенсию (его бабушка по линии матери княгиня Мария Аркадьевна Вяземская, урожденная Столыпина, была в родстве с семьей поэта). Семья Шереметевых получила и служебное жилье в Надпрудной башне закрытого властями Новодевичьего монастыря. Это помещение трудно назвать квартирой: большое, высотой около восьми метров, его невозможно было натопить в холодное время года. А там хранилось множество ценнейших вещей: родовые реликвии, книги, картины, документы… Павел Сергеевич продолжал работать над своей усадебной картотекой, выступал с лекциями и докладами, рисовал, вел дневник. Его имя внесено в официальный справочник «Научные работники СССР», изданный в 1928 году.
В этой квартире в Надпрудной башне летом 1942 года умерла от истощения Прасковья Васильевна. Как свидетельствует граф А.А. Гудович, после смерти жены Павел Сергеевич не мог оставаться в своей башне один и перебрался к сестрам жены Оболенским в Царицыно, в те годы пригороду Москвы, где они снимали половину дачи. Квартиру в Надпрудной башне опечатали. В те месяцы его племянница Е.В. Оболенская нарисовала его портрет, где он очень похож на Достоевского. Павел Сергеевич Шереметев скончался в Царицыно в ноябре 1943 года и был похоронен на местном кладбище, расположенном сразу за парком.