Вернувшись из Харьковской губернии в Москву, Рахманинов вскоре встретился у Танеева с Чайковским, Ипполитовым-Ивановым и другими музыкантами. Узнав о количестве написанных Рахманиновым вещей, Чайковский, который любил шутить и хорошо относился к Рахманинову, смеясь, заметил, что он вот, бедный, этим летом написал всего одну симфонию (это была Шестая симфония), а вот Сережа сочинил так много (и добавил шепотом: «Наверное, дрянь страшная»). По настоянию присутствующих Рахманинов сыграл «Утес». От исполнения Фантазии для двух фортепиано, посвященной Чайковскому, он отказался, так как очень ценил ее и поэтому не хотел портить впечатление, играя ее на одном рояле. Рахманинов намеревался вскоре сыграть Фантазию с профессором Пабстом в своем концерте. Сделать ему это не пришлось, так как в октябре того же года он скончался. Здесь уместно подчеркнуть тот неослабный интерес и дружеское отношение, которое Чайковский неизменно проявлял к начинающему Рахманинову. Посещение репетиций, советы, поддержка, милые шутки ясно показывали его симпатию к Рахманинову. Когда осенью 1893 года вышли из печати сочиненные весной 1892 или 1893 года Фортепианные пьесы ор. 3 (среди них знаменитая теперь Прелюдия cis-moll, а также «Элегия», «Мелодия», «Полишинель» и «Серенада»), посвященные Аренскому, один из музыкальных критиков, А. Амфитеатров, восторженно отозвался об этих пьесах. В одной из своих статей под заглавием «Многообещающий» он назвал некоторые из них шедеврами. Чайковский при встрече с Рахманиновым, обратившись к нему с улыбкой, отметил эту статью, сказав: «А вы, Сережа, уже шедевры пишете».
Смерть Чайковского была большим ударом для Рахманинова. Она сильно потрясла его. Под влиянием тяжелой утраты он написал свое Элегическое трио ор. 9, окончив его меньше чем через два месяца после смерти Чайковского. Он посвятил это произведение памяти Чайковского, Трио было исполнено в том же сезоне в Малом зале Дворянского собрания в концерте автором, Брандуковым и скрипачом Конюсом.
В 1894 году им были написаны Семь фортепианных пьес ор. 10, посвященных Пабсту, Шесть четырехручных пьес для фортепиано op. 11 и «Цыганское каприччио» ор. 12, исполненное самим автором в симфоническом концерте. Это произведение на темы из народных цыганских песен было создано под влиянием дружбы с семьей Лодыженских. Жена П. Лодыженского была сестрой знаменитой в свое время певицы – цыганки Александровой.
Жизнь молодого артиста, поселившегося на время в скромных меблированных комнатах «Америка» на Воздвиженке, была трудная. Хотя он не кутил и не пил, но был молод, любил щегольнуть, прокатиться на лихаче, посорить деньгами. Гонорар, получаемый за сочинения, у него не задерживался. Он хотел более обеспеченной жизни, а заработка от сочинений, несмотря на то, что Гутхейль всегда охотно покупал у него все написанное, ему на жизнь не хватало. Кроме того, его часто начинало мучить сознание, что надо писать наспех, насиловать себя, чтобы вовремя получить деньги. Ему пришлось поэтому прибегнуть к другому источнику существования – частным урокам. Трудно представить себе, до какой степени Рахманинов тяготился уроками в эти и последующие годы. Получая большой гонорар, встречая в семьях учениц исключительно доброжелательное отношение, переходившее в некоторых случаях в настоящую дружбу, он тем не менее чувствовал непреодолимое отвращение к урокам и делал все возможное, чтобы избегнуть их. На укоры близких по поводу того, что он пропускал или откладывал уроки, Рахманинов только вздыхал и старался оправдаться тем, что ученицы его недостаточно даровиты, что, будь та или другая более талантливой, дело было бы другое, что ему невыносимо скучно сидеть и слушать, как они ковыряют пальцами, а не играют и т. д. Как бы то ни было, педагог он был исключительно плохой, и один вид его на уроке, вероятно, убивал у несчастных учеников всякую охоту играть при нем.
В 1894 году Рахманинов устроился преподавателем музыки в одном из институтов Ведомства императрицы Марии (Мариинское училище за Москвой-рекой). Начав в Мариинском училище, он потом состоял преподавателем и инспектором музыки в Екатерининском и Елизаветинском институтах. Во всех этих учебных заведениях их начальницы – А.А. Ливенцова, О.С. Краевская и О.А. Талызина – делали все возможное, чтобы избавить его от потери времени, чтобы сократить часы его обязательных занятий. В последние годы его жизни в Москве «служба» его состояла только в том, что он в качестве инспектора музыки присутствовал на экзаменах музыки и на музыкальных вечерах.