Высоко оценивал Рыжий поэзию И. Бродского, боялся ему подражать и посвятил его памяти несколько стихотворений: «Прощай, олимпиец, прощай навсегда» («Слов не нахожу, а гляжу на Неву, / как мальчик, губу прикусил» — январь 1996); «Памяти И.Б.» («Живёшь — и не видят и не слышат. / Умри — достанут, перепищут»); «Памяти поэта» («Ах, Иосиф Александрович, / дорогой мой человек…», всюду «говорят о смерти Бро»).
Чтение было для Б. Рыжего сотворчеством, он живо откликался и эмоционально реагировал на прочитанное, то соглашался, то спорил («Нет, нам нужнее «Прекрасная Дама», / желчь петербургского дня…», подчёркивая необходимость блоковской и мандельштамовской поэзии). При этом он не был читателем-интуитивистом, не отдающим себе отчёта, почему ему что-то нравится или не нравится. Скорее,он был читателем-аналитиком и, читая, вдумывался, размышлял, анализировал, сопоставлял. Так, «Фантазия» Фета напоминала ему «голосом» и размером (5-стопный хорей) «Балладу» Анненского. В первой он отмечал роскошный весенний пейзаж, и «излишнюю роскошь сердец», и новые надежды в финале («Миг ещё… нет волшебной сказки./ И душа опять полна возможным»). Во второй — осеннее прощание с летней дачей, с возлюбленной, пронизанное горечью. И заканчивается сопоставление выводом: «О, как интонации схожи / у счастья и горя, друзья!» («Фет», 1995). Другую аналогию мы наблюдаем в «Стихах о русской поэзии»: «Иванов тютчевские строки / раскрасил ярко и красиво». Или неожиданной кажется концовка бытового, приземлённого стихотворения «Трамвай гремел»:
Действительно, таким разностопным, 4—2-стопным ямбом написаны фетовские стихи «Одна звезда меж всеми дышит / И так дрожит…» и «Я повторял…» («В моей руке — какое чудо! — / Твоя рука…») и пастернаковские «Во всём мне хочется дойти / До самой сути» и «Зимняя ночь» («Мело, мело по всей земле, / Во все пределы…»). Кстати, первым отметил это сходство А. Кушнер: «Известный, в сущности, наряд, / Чужая мета: / У Пастернака вроде взят, / А им — у Фета».
Такое аналитическое чтение прямой дорогой ведёт к литературной критике, и Борис начинает писать критические заметки и рецензии, высказывая в них неординарные суждения. Например, в эссе о В. Набокове утверждается, что его напрасно считают бездарным стихотворцем, он «поэт огромный», и, возможно, именно его назовут «первым поэтом эмиграции», а не Ходасевича и Цветаеву, так как он «сохранил для нас пушкинскую радость, пушкинское достоинство» и умел беседовать с Музой «без угрюмых размышлений о судьбе России, без жалоб на собственную судьбу, а легко болтая на серьёзные темы» — «это была светская беседа, воспоминания о прошлом и будущем». Быть может, эти рассуждения и спорные, но, вероятно, похожим писателем хотел стать сам Рыжий.
Необыкновенную его начитанность подчёркивает в своём критико-биографическом очерке Н. Казарин «Поэт Борис Рыжий: постижение красоты», включённом в книгу «Оправдание жизни», — и не только в художественной литературе, но и в философии (в частности, Ф. Ницше, Л. Шестов). И сам Борис не без горькой иронии говорил о себе как о «посредственном, но бесконечно начитанном поэте» и временами даже пугался своей начитанности: как бы из-за увлечённости чужими стихами не впасть в подражательство и эпигонство («только это не я сочинил»).
А память у юноши была феноменальная, он мог часами читать наизусть произведения многих поэтов и включал их цитаты в свои тексты, обычно без кавычек и нередко видоизменённые: «Я Музу юную, бывало, / Встречал в подлунной стороне» (В. Жуковский), «Мне в поколенье друга не найти» (у Баратынского «И как нашёл я друга в поколенье»), «Я встретил вас — всё былое / в отжившем сердце ожило» и «Как наше слово отзовётся, / дано ли нам предугадать?» (у Тютчева» Нам не дано предугадать, Как слово наше отзовётся»), «Я лучшей доли не желал» (у Блока «не искал»), «Эх вы, сани! А кони, кони!» (С. Есенин).