Впрочем, Леон освоил русский язык настолько, что по прошествии нескольких лет, хотя не всегда правильно выговаривал слова, но легко мог писать на нём не только прозу, но и стихи. При этом он проявил столь завидное владение версификацией, что мог справиться с прихотливой рифмовкой русского сонета. Из своих стихотворных опытов он составил целую рукописную книгу, которую всегда держал при себе.
Судьбоносной оказалась встреча нашего отрока с заезжим русским офицером (военные часто столовались в корчме отца), с которым они сошлись в шахматной баталии. В той партии Леон одержал победу, но он выиграл вдвойне, поскольку проигравший, под впечатлением от его интеллектуальных способностей, насказал много лестного об «образованном русском обществе», о «новом, свободном, изящном», что дало мальчику новый стимул к изучению наук. Известно, что он продвинулся в изучении логики, общей и частной риторики, математики (алгебры, геометрии, стереометрии), получил общие понятия по предмету всеобщей истории и некоторые сведения по общей и русской статистике.
Самообразование нашего героя оказалось, однако, на время прерванным из-за ранней женитьбы. Избранница шестнадцатилетнего Леона (точнее, его отца, ибо на раннем браке настоял именно Мандельштам-старший) принадлежала к совсем иной среде. В доме тестя, в еврейском местечке Кейданы (ныне г. Кедайняй) Ковенской губернии, куда после свадьбы переселился юный Леон Мандельштам, царила воинствующая ортодоксальность; занятие любыми «посторонними» предметами, такими, например, как чтение какой-либо неталмудической книги, воспринималось здесь как богохульство. Долго оставаться в этом доме Леон не мог; он вернулся под отцовский кров, а вскоре и развелся с женой, хотя у них родилась маленькая Гитель. Боль расставания с любимой дочерью он увековечит впоследствии в «Колыбельной Гители»:
Главное то, что Мандельштам, как ему мнилось, угадал своё призвание – стать защитником и просветителем своего народа, в большинстве своём – увы! – далёкого от европейской культуры того времени. Вот какие сокровенные чувства поверяет бумаге двадцатилетний Леон: «Так я стою теперь – дикий, сильный, свободный сын природы, любящий свое отечество и язык родимого края, но несчастный несчастием моих единоверных братьев. Я разгневан на их ожесточение, губящее их способности, но я привязан узами родства и чувства к их бедствиям. Цель моей жизни есть оправдать их перед светом и помочь им удостоиться этого оправдания». Состояние нашего героя очень верно передал литератор И. Кисин: «С одной стороны, он весь во власти чар освящённых временем традиций гетто; с другой, его манят новые миры и новые формы жизни. Он изнывает от этого вечного разлада, и душу его терзают сомнения и вопросы… Его страшит будущее, он знает, что осуждён на одиночество в чужом мире, но его влекут туда силы, которым он не может противостоять».
Жажда самых разносторонних знаний возбуждает в нём желание получить систематическое образование, что было возможным только вдали от родных пенатов, в столичном университете. Невольно вспоминается рассказ Шолом-Алейхема «Выигрышный билет», где еврейский юноша тоже покидает местечко и едет учиться в большой город. Финал рассказа, однако, трагичен: образованный еврей, дабы преуспеть, отказывается от веры предков, за что родные его проклинают и хоронят заживо. Не то Мандельштам! Он не только не изменяет своей религии, но обращает к еврейству все свои помыслы, делает заботу о соплеменниках смыслом всей жизни. Позднее, подводя итог своим трудам и дням, он скажет: «Три идеала управляли доныне моим духом и сердцем: образование, родина и моя нация!» А тогда, накануне отъезда из Жагор, он посвящает родному местечку вот какую «Прощальную думу»: