Всего при жизни Мандельштама вышло шесть его поэтических книг: три издания «Камня» (1913, 1916 и 1923); «Tristia» (1922 г., переводе с греческого это слово означает «печаль, скорбное песнопение»); «Вторая книга» (сборник был издан в 1923 году в Берлине и был назван так М.А. Кузьминым) и «Стихотворения» (1928)». В 1931—1932 гг. Мандельштам заключил договоры на сборники «Избранное» и «Новые стихи», а также на двухтомное собрание сочинений, но эти издания не состоялись.
После гибели поэта имя Мандельштама оставалось в СССР под запретом около 20 лет. Первое в СССР посмертное издание стихов Мандельштама было анонсировано в 1958 г., но вышло только 1973-м – Мандельштам О. «Стихотворения», в большой серии «Библиотека поэта». (Впервые же собрание сочинений поэта было издано в США в 1964 г.).
В начале 1930-х гг. Мандельштам уже вполне принимает идеалы революции, но категорически отвергает власть, которая их фальсифицирует. В 1930-м он пишет свою «Четвертую прозу» – жесточайшее обличение нового режима, а в 1933-м – стихотворную «эпиграмму» на Сталина «Мы живем, под собою не чуя страны…» Внутренний разрыв с рабством официальной идеологии дает Мандельштаму силу вернуться к подлинному творчеству, которое у него шло, за редким исключением, «в стол», не предназначаясь для сиюминутной печати.
14 мая 1934 г. за «эпиграмму» «Мы живем, под собою не чуя страны…» и другие стихи Мандельштам был арестован в своей квартире.
А. Ахматова вспоминает: «Обыск продолжался всю ночь. Искали стихи… Осипа Эмильевича увели в 7 часов утра, было совсем светло… Через некоторое время опять стук, опять обыск. Пастернак, у которого я была в тот же день, пошел просить за Мандельштама в «Известия», я – к Енукидзе, в Кремль…»
Возможно, это заступничество известных поэтов и Николая Бухарина сыграло свою роль. Известен факт звонка Сталина Пастернаку, в котором предметом разговора был Мандельштам.
Резолюция Сталина была: «Изолировать, но сохранить». И вместо расстрела или лагерей – неожиданно мягкий приговор – ссылка вместе с женой, Надеждой Мандельштам, в город Чердынь-на-Каме Пермской области.
В Чердыни у Мандельштама были приступ душевной болезни и попытка самоубийства. Он выбросился из окна больницы и сломал себе руку.
Вскоре место ссылки было заменено на Воронеж, где Мандельштам пробыл до 1937 г. Стихи, написанные в этот период, по словам А. Ахматовой – «…вещи неизреченной красоты и мощи», составили «Воронежские тетради», опубликованные посмертно в 1966 г.
В Воронеже Мандельштам живет нищенски, сперва на мелкие заработки, потом на скудную помощь друзей и постоянно продолжает ждать расстрела.
Странная и неожиданная мягкость приговора вызвала в Мандельштаме подлинное душевное смятение, вылившееся в ряд стихов с открытым приятием советской действительности и с готовностью на жертвенную смерть: «Стансы» (1935 и 1937), так называемая «Ода» Сталину (1937) и другие. Но многие исследователи творчества Мандельштама видят в них только самопринуждение или «эзопов язык». Мандельштам временами надеялся, что «Ода» Сталину спасет его, но позже он говорил, что «это была болезнь», и хотел ее уничтожить.
После Воронежа Мандельштам почти год живет в окрестностях Москвы, по словам А. Ахматовой, «как в страшном сне». Этот сон оборвался в 1938-м.
После ссылки разрешения жить в столице Мандельштам не получил. Работы не было. И вдруг секретарь Союза писателей СССР Ставский, к которому безуспешно пытался попасть Мандельштам, но который так и не принял поэта, – именно он предлагает Мандельштаму и его жене путевку в Дом отдыха «Саматиха», причем на целых два месяца. А. Фадеев, узнав об этом, почему-то очень расстроился, но Мандельштам был несказанно рад.