И всё же в этом «сборище бездарностей» находились молодые преподаватели, отличавшиеся «содержательностью, широтой взглядов, новизной обобщения, отзывчивостью на общественные вопросы, ораторским талантом… Их слушали с жадностью, и слова их глубоко запечатлевались в умах и сердцах студентов». Пётр с благоговением вспоминает филолога Николая Костыря (1818-1853), вдохновенно и так романтично читавшего лекции по эстетике и русскому языку. В нём «студенты нашли не только руководителя в области наук, но и старшего товарища, советника и помощника в материальных нуждах». Это по его инициативе в университете стали проводиться литературные собрания, на которых студентам вменялось в обязанность читать опусы собственного сочинения с последующим их обсуждением и критическим разбором. Благодаря словеснику Костырю, уже наличествовавшая в нашем герое литературная закваска вызвала творческое брожение. Насколько оно было бурным, свидетельствует тот факт, что отсчёт писательской деятельности Вейнберга ведётся именно с его студенческих лет, когда в 1851 году в журнале «Пантеон» (№ 11) был напечатан перевод драмы Жорж Санд «Клоди» (анонимно, без указания имени переводчика). Мало того, он переложил стихотворение Виктора Гюго «Молитва обо всех» («Харьковские губернские ведомости», 1852, февр.). А в письме к редактору «Пантеона» Фёдору Кони (1809-1879) от 24 сентября 1852 года Вейнберг предлагает свои услуги переводчика рассказов, пьес, водевилей. Тогда-то и началась деятельность этого «переводчика из переводчиков», как будут потом называть нашего героя.
В 1854 году в Одессе выходит поэтический сборник Петра Вейнберга с переводами из Горация (65-8 до н. э.), Андре Шенье (1762-1794), Виктора Гюго (1802-1885), Джорджа Гордона Байрона (1788-1824) и несколькими своими оригинальными стихотворениями. Но вот незадача: окончив курс университета в 1854 году, наш поэт не получил при этом звания кандидата. А виной тому был неисправимый буквоед Лавровский: влепил ему двойку на кандидатском экзамене по русской литературе, придравшись к одной фактической ошибке из истории словесности XVIII века (мстил за прогул своих унылых лекций). Так что экзамен пришлось пересдавать через год.
А тем временем наш герой направляется в Тамбов, в качестве чиновника по особым поручениям при губернаторе Карле Данзасе (1806-1885). О трёх годах, проведённых в Тамбове, Пётр Исаевич будет говорить как о «времени глупого, праздного и бесцельного существования». Впрочем, он здесь излишне самокритичен, поскольку, помимо службы, усиленно занимается литературной работой: редактирует неофициальную часть «Губернских новостей», сам пишет много и вдохновенно. Забавно, что даже своё отвращение к чиновничьей службе он выражает посредством стихотворной пародии на знаменитое «Выхожу один я на дорогу» Михаила Лермонтова:
Вообще, тамбовский период, о коем наш герой, по его словам, не может вспоминать «без содрогания», сыграл в становлении Вейнберга-поэта весьма значительную роль. И прежде всего потому, что он открыл для себя творчество Генриха Гейне (1797-1856) – мастера, к которому до конца жизни питал неизменный пиетет. Пётр Исаевич в свободное от служебных обязанностей время переводит его сочинения, сам пишет стихи в подражание немецкому поэту. При этом происходит казус, впрочем, вполне объяснимый. Редактор петербургского «Русского вестника» Михаил Катков (1818-1887) принял его стихи за переводные и в 1856 году поместил их в журнале под заглавием «Из Гейне». Это забавное событие побудило Вейнберга взять псевдоним «Гейне из Тамбова». А впоследствии он будет аттестовать себя «тёзкой великого Гейне».