С 1887 г. Константин Константинович почетный член, а с 3 мая 1889 г. и до конца жизни Президент Санкт-Петербургской Императорской Академии наук. Великий князь сделал в это время (2 мая 1889 г.) следующую любопытную запись в дневнике: «Мое тщеславное самолюбие было в высшей степени польщено, но вместе с тем я немало смутился при мысли о таком высоком положении. Отказываться я не имею причин. Вечером, после обеда, я улучил минуту поговорить с Государем с глазу на глаз. Я спросил его, как он смотрит на сделанное мне предложение. Государь ответил мне, что он ему рад, сказал, что президент — великий князь может стать выше всяких интриг, выразил желание, чтобы я принял это звание, и пожал мне руку. Величие, истинно духовное величие, сопряженное с внешним почетом, всегда имело для меня обаяние и само осеняет меня. С Богом, в добрый час. С Богом». На следующий день, 3 мая император Александр III подписал соответствующий указ. Константину Константиновичу довелось находиться во главе Императорской Академии наук долгих 26 лет. При содействии великого князя в Академии наук осуществлен ряд крупных научных и культурных проектов: был открыт Зоологический музей в Санкт-Петербурге, новые лаборатории и обсерватории, организованы научные экспедиции, в том числе Шпицбергенская экспедиция для градусного измерения (1898), полярная экспедиция для исследования архипелага, лежащего к северу от Новосибирских островов. Экспедиции в Монголию, на Памир и в Тянь-Шань вызывали у англичан опасения о проникновении Российской Империи на Тибет. По ходатайству К. Р. была учреждена академическая комиссия по распределению пособий и пенсий между нуждающимися учеными, их вдовами и сиротами (50 000 рублей в год). По его просьбе в 1911 г. правительство выкупило имение «Ясную Поляну» у наследников писателя графа Л. Н. Толстого, сохранив его для России. Великий князь Константин Константинович обладал большим чувством такта, особенно когда в Академии наук намечались разногласия между ее членами. Порой бывали и неприятные ситуации. Так, например, генерал от инфантерии Н. А. Епанчин писал в своих мемуарах: «Когда я однажды спросил великого князя Константина Константиновича, Президента Академии наук, почему Менделеев не избран членом Академии, то он сконфузился и, по своему обыкновению, сказал что-то неопределенное». (
Важными начинаниями великого князя являлись: организация празднования 100-летия со дня рождения А. С. Пушкина, учреждение фонда великого поэта для издания сочинений русских писателей, словаря русского языка и других трудов. В 1899 г. он возглавлял Пушкинский юбилейный комитет. По его инициативе был создан Пушкинский Дом (ныне — Институт русской литературы РАН). Он возглавлял несколько академических комиссий, и прежде всего комиссию по реформе русской орфографии. Еще с 1904 г. комиссия начала разрабатывать проект реформы, позднее практически полностью скопированный большевиками и известный как советский декрет «О введении новой орфографии». На самом деле у истоков этого проекта стоял великий князь Константин Константинович. По его инициативе в Академии наук был учрежден разряд (отделение) изящной словесности и в 1900 г. избраны первые 9 почетных академиков разряда (в их числе сам Константин Константинович, граф Л. Н. Толстой, А. П. Чехов, А. Ф. Кони, В. Г. Короленко и др.).
Обязанности по Академии наук великий князь Константин Константинович продолжал совмещать, по-прежнему, с военной службой. Его 21 апреля 1891 г. произвели в полковники, а уже 23 апреля назначили командующим лейб-гвардии Преображенским полком. В этом старейшем гвардейском полку проходил офицерскую службу наследник цесаревич Николай Александрович (Николай II), вплоть до восхождения в 1894 г. на Российский престол. Великий князь Константин Константинович был дружен с Ники и посвятил службе цесаревича в Преображенском полку свои интересные воспоминания, которые даются нами ниже в данном сборнике.