В апреле 1897 года графа С.Д. Шереметева назначили членом Особого совещания по делам дворянского сословия. Оно было созвано по распоряжению императора для выработки программы помощи дворянскому сословию, стремительно терявшему свою лидирующую роль. Возглавлял работу совещания министр финансов С.Ю. Витте. Витте и его единомышленники считали, что Россия, как и вся цивилизованная Европа, должна идти по пути развития промышленного капитализма. Граф Шереметев, равно как и другие крупные дворяне-помещики, полагал, то правительство должно поддерживать прежде всего земледельцев. Со времени этой их совместной работы и сформировалось мнение Витте о графе Шереметеве как о реакционере и ретрограде.
Одним из результатов работы графа С.Д. Шереметева на этом поприще стала публикация в 1898 году составленной им записки «О создании особых дворянских женских учебных заведений». Он напоминал, что в рескрипте Александра III в связи со 100-летием «Жалованной грамоты» дворянству сказано и о необходимости воспитания молодых поколений дворянства. Автор считал необходимым обратить внимание общества на женское образование, поскольку «…огромна роль женщины, матери, хозяйки имения, сотрудницы тех местных деятелей-тружеников, носителей известных преданий… Говорить о пользе сохранения дворянского землевладения, дворянских усадеб, дворянских культурных центров – и нельзя при этом забыть женщину!». Существовавшее на то время количество учебных заведений для девушек дворянского сословия он считал для России недостаточным. В записке излагалась программа их воспитания: девушки должны не только получить определенную сумму знаний, но у них должна сформироваться любовь к Отечеству, передаваемая через изучение истории государства, истории церкви, истории родного края, родной усадьбы, через любовь к семейному очагу. Эти принципы звучат актуально и в наши дни, однако граф Шереметев видел необходимость внедрять их прежде всего среди дворянской молодежи, поскольку всегда считал дворянское сословие «становым хребтом» государства. В бытность его московским губернским предводителем дворянства и позже он уделял особое внимание учебным заведениям, особенно женским.
В сентябре 1900 года Николай II назначил графа С.Д. Шереметева председателем Археографической комиссии Министерства народного просвещения, и на этом посту он находился до самой смерти. Археографическую комиссию основали в 1834 году. Члены ее занимались выявлением, исследованием и публикацией документальных источников по русской истории в отечественных и зарубежных архивах. С 1871 года Археографическая комиссия начала публиковать «Полное собрание русских летописей», до 1917 года вышло 24 тома. С 1872 года в серии изданий Археографической комиссии «Русская историческая библиотека» печатались различного рода исторические источники по внешней и внутренней политике государства, воспроизводились уникальные старопечатные издания, рукописи, всего вышло 39 томов. Назначение графа С.Д. Шереметева на этот пост было вполне оправданным. К этому времени ясно обозначился интерес графа Сергея Дмитриевича к истории, а его заслуги в этой области признало научное сообщество. В декабре 1890 года он избирается почетным членом Императорской Академии наук, в 1895-м – почетным членом Русского Археологического института в Константинополе и Исторического общества Нестора-летописца в Киеве, в 1897 году – почетным членом Псковского Археологического общества и Черниговской губернской Ученой архивной комиссии, в последующие годы – почетным членом Калужской (1898) и Владимирской (1899), Таврической (1904) губернских Ученых архивных комиссий, членом-корреспондентом национальной Академии в Реймсе (1900), почетным членом Московского археологического института (1907) и др.
Под началом графа С.Д. Шереметева в Археографической комиссии работали такие выдающиеся русские историки и археографы, как И.А. Бычков, И.В. Помяловскй, братья Н.П. и А.П. Барсуковы, А.С. Лаппо-Данилевский, Н.П. Лихачев, С.Ф. Платонов, В.В. Майков, В.Г. Дружинин, Н.Д. Чечулин, А.А. Шахматов, Б.А. Тураев и др.