Ю. И. Гессен закончил в Одессе Коммерческое училище. Высшее образование он не получил, так как не хотел во время учебы зависеть от отца, настаивавшего, чтобы сын делал торгово-промышленную карьеру. Первыми произведениями молодого одесского служащего были фельетоны, рассказы и стихотворения, в основном посвященные еврейской теме. Они печатались в различных периодических изданиях Одессы и Санкт-Петербурга.
В 1896 году он переезжает в столицу империи, где первые восемь лет служит в банке. Одновременно Ю. И. Гессен все более расширяет сферу своих исследований по истории евреев в России. С конца XIX в. он принимает участие во многих еврейских газетах и журналах. В автобиографии Ю. И. Гессен пишет: «Начав свою литературную деятельность в 1895 г., я уже вскоре посвятил себя изучению исторических наук. Бесправное положение евреев вынудило меня сосредоточить главное внимание на их истории в России. А так как литература была крайне бедна, то я стал изучать историческое прошлое евреев по рукописным материалам в ряде правительственных архивов». На основе этих исследований им были в дальнейшем рассмотрены основные вопросы правовой, общественной и экономической жизни еврейства на территории Российской империи, включая Польшу, Прибалтику и Финляндию.
В 1898 г. Ю. И. Гессен опубликовал свой перевод с немецкого языка на русский программной работы Л. Пинскера «Автоэмансипация! Призыв русского еврея к своим соплеменникам». Как известно, это произведение стало важной вехой в духовной жизни российского еврейства. В 1900–1901 гг. его работы в основном печатались в еженедельнике «Будущность». Первой была статья «Сто лет назад», в которой рассказывалось о начале просветительного движения среди евреев в конце XVIII – начале XIX веков.
В 1902 г. статьей «К истории «средневековых» обвинений» он начал борьбу против обвинений евреев в ритуальных убийствах. Вокруг этого мифа возникла целая «кровавая» литература, и ее разоблачению Ю. И. Гессен уделял большое внимание на протяжении многих лет. Особенно подробно он изучил одно из наиболее трагических проявлений этих вымыслов на практике – Велижскую драму, дело, по которому в ритуальном убийстве обвинялась в 1823–1833 гг. целая группа евреев.