В 1930-х г. у Смелякова случился роман с Маргаритой Алигер, посещавшей литобъединение вместе с ним, С. Михалковым, Л. Ошаниным. Интересна история с кольцом, подаренным поэтессе Смеляковым (массивное серебряное - череп с двумя скрещёнными костями). Ярослав сказал Маргарите, что пока она кольцо будет носить, с ним, Ярославом, ничего плохого не произойдёт. По словам Лидии Либединской, которой Алигер рассказала эту историю уже после смерти Смелякова, каждый раз, когда кольцо снималось с руки и терялось, с Ярославом приключалась беда. В пересказе Е. Егоровой финал этой мистически-завораживающей истории звучит так: "Перед последним арестом Смелякова в 1951 г. кольцо надломилось и потом 20 лет пролежало в столе среди бумаг, но в день похорон поэта Маргарита нашла его целым, хотя сама в ремонт не сдавала[?]"
Перед войной молодой поэт написал цикл "Крымские стихи", публиковался в "Молодой гвардии", "Литгазете", "Красной нови"[?] В ноябре 1939 г. был призван в армию Ухтомским райвоенкоматом, уцелел в Финской "незнаменитой" войне, вернулся в Москву весной 1940 г. и был принят на работу в аппарат Союза писателей.
В 1941 г. Смелякова из резерва призвали в армию, зачислили рядовым в 3-ю Фрунзенскую дивизию народного ополчения. Воевал на Северном и Карельском фронтах. Ходили слухи о его гибели. Е. Долматовский написал трагическое стихотворение, посвящённое его памяти. Лишь Алигер верила, что Смеляков жив: вернувшись из эвакуации зимой 1942 г., она неожиданно нашла дома кольцо, подаренное Смеляковым, которое куда-то задевалось в её квартире перед отъездом в октябре 1941 г.
А Смеляков очень быстро попал со своей частью в окружение и финский плен, каторжно работал на хозяина, обращавшегося с узниками крайне жестоко.
"Я вовсе не был у рейхстага и по Берлину не ходил", - сокрушённо писал он.
Наблюдение критика Л. Аннинского: "По возрасту и настрою Смеляков, конечно, должен был бы стать поэтом войны - не окопно-солдатской, какую донесли до нас поэты из поколения смертников, а войны, осмысленной стратегически и эпически, - какую описали дождавшиеся своего часа Твардовский и Симонов".
А в победном 1945-м Смеляков написал каменные строки "Моё поколение":
Я строил окопы и доты,
железо и камень тесал,
и сам я от этой работы
железным и каменным стал.
Я стал не большим, а огромным -
попробуй тягаться со мной!
Как Башни Терпения, домны
стоят за моею спиной.