3 октября на станции Волоколамск гроб с телом Олега встречала тысячная толпа народа. Там же собрались царственные родственники князя: королева Греции Ольга Константиновна, великая княгиня Елисавета Федоровна, великий князь Дмитрий Константинович, княгиня Татьяна Константиновна Багратион-Мухранская, княгиня Елена Петровна, князь Георгий Константинович. Братья и дядя покойного на руках вынесли гроб из вагона. Печальный кортеж, впереди которого шли духовенство и хор певчих, двинулся в последний путь. По всему пути стояли местные крестьяне. Свыше ста венков везли на колесницах.
Генерал-майор Н.Н. Ермолинский вспоминал день погребения своего воспитанника: «По прибытии в имение печальное шествие направилось к месту последнего упокоения почившего. Это место для могилы он сам себе избрал при жизни в поэтическом уголке, на высоком, обрывистом кургане, где растут тополя и заросшая мхом старая лиственница. С кургана, господствующего над всей округой, открывается великолепный вид на причудливые изгибы реки Рузы, на поля, уходящие в безбрежную даль, и на далеко синеющий лес». Осташёвские крестьяне на руках несли гроб по липовой аллее парка. Кто-то из местных жителей взял в руки шашку Олега, лежавшую на крышке гроба, и поцеловал эфес.
Первым горсть земли в могилу бросил отец покойного. Над могилой быстро вырос холм, покрытый венками, цветами и увенчанный деревянным крестом.
5 июля 1915 года над местом захоронения Олега началось возведение небольшого изящного храма в древнерусском стиле, по проекту архитекторов М.М. Перетятковича и С.М. Дешевова. Постройка была закончена в ноябре 1916-го, но освящения храм так и не получил.
25 декабря 1914 года первой роте Полоцкого кадетского корпуса было присвоено почетное наименование «рота Его Высочества Князя Олега Константиновича», «дабы сохранить на вечные времена среди кадет названного корпуса память об Августейшем Полочанине, положившем жизнь Свою на поле брани за Царя и Отечество». Весной 1915 года Виленскому реальному училищу, в стенах которого закончилась жизнь князя Олега, было присвоено его имя. В актовом зале установили портрет Олега, а в палате, где он скончался, разместили мраморную доску с надписью «Здесь 29 сентября 1914 г. скончался от ран, полученных в бою с германцами, Его Высочество Князь Олег Константинович. Вечная память безвременно погибшему герою, отдавшему жизнь за Родину». К сожалению, все эти знаки памяти просуществовали недолго — 5 сентября 1915 года Вильна была захвачена противником, в 1918-м стала литовским городом, в 1920-м — польским…
Гибель любимого сына сильно потрясла великого князя Константина Константиновича. «Временами нападает на меня тоска, — признавался он в дневнике. — И я легко плачу. Ужас и трепет берут, когда подумаешь, что с четырьмя сыновьями, которым нужно вернуться в действующую армию, может случиться то же, что с Олегом. Вспоминается миф о Ниобе, которая должна была лишиться всех своих детей. Ужели и нам суждено это? И я стану твердить: Да будет воля Твоя». С начала 1915 года великий князь начал страдать сильными приступами стенокардии и 2 июня того же года скончался, не дожив двух месяцев до своего 57-летия.
А печальной дневниковой записи Константина Константиновича, увы, суждено было стать пророческой — из восьми его детей умереть не своей смертью было суждено четверым. В июле 1918 года от рук большевиков под Алапаевском погибли князья Иоанн, Игорь и Константин Константинович-младший — их живыми сбросили в глубокую шахту. В ноябре 1981 года Русская православная церковь за границей причислила их к лику святых. Более благополучно сложились судьбы великой княгини Елисаветы Маврикиевны, князей Гавриила и Георгия и княжон Татьяны и Веры, которые смогли эмигрировать. Последней из братьев и сестер князя Олега скончалась Вера Константиновна — она умерла в США 11 января 2001 года, на 95-м году жизни. Долгая жизнь оказалась суждена и несостоявшейся невесте Олега, княжне Надежде Петровне — ее земной путь закончился во Франции в 1988-м…
В 1920-е годы подверглась осквернению и тихая могила героя Первой мировой войны князя Олега. Мародеры украли из гроба шашку, сняли с груди покойного орден Святого Георгия, срезали пуговицы с кителя… После этого надругательства местные жители сами решили перезахоронить останки князя на местном сельском кладбище. Гроб на руках перенесли на другой берег реки Рузы и предали земле возле храма Святого Александра Невского. В 1939-м храм был взорван, кладбище снесено, а на его месте начали строиться частные дома. Через два года сильно пострадала от немецко-фашистских оккупантов сама усадьба Осташёво. Сейчас она пребывает в полуразрушенном состоянии. А не отмеченная никаким знаком могила Олега находится, по утверждениям местных старожилов, под двумя яблонями, подойти к которым нет возможности — растут они на частном садовом участке…