В течение многих веков Себежская земля была западным пограничьем Руси, что отразилось и на истории города, основанного еще в былинные древнерусские времена. О Себеже есть упоминание в былине «О двух сильных богатырях — Илье Муромце и о Соловье Разбойнике»: «Как будет он под Себежем, славным городом…» Существует древняя легенда о происхождении названия города: много столетий тому назад на берег большого и красивого озера пришел крестьянин со своими сыновьями. Понравились им эти места и решили они освоить новый край. Отвел крестьянин участки земли одному сыну и другому. «А где же ты будешь жить?» — спросили они у отца. «Себе ж возьму вон ту землю», — и крестьянин указал на полуостров, возвышавшийся на озере. Так появился на русской земле город, получивший название Себеж.
Этот районный центр в Псковской области, известный с 1414 года, в эпоху Речи Посполитой (с 1579 года) был местечком Полоцкого воеводства. В состав Российской империи Себеж вошел в 1772 году, после первого раздела Польши. В это время в городке проживало немногим более двух тысяч человек, а к 1894 году его население выросло до 4344 человек, из которых 61 процент составляли евреи. Русский публицист-народник Николай Васильевич Шелгунов писал в «Очерках русской жизни»: «Евреи остались нам в наследство в виде законченного целого с присоединением западных губерний и Царства Польского. Такое же законченное целое мы приобрели с присоединением всех остальных наших разнообразных народностей: Малороссии, Польши, Остзейского края, Финляндии, Кавказа. Но дело в том, что все остальные народности поддавались легче изучению и были для нас понятнее, чем евреи. Кроме того, с присоединением других народностей к нам не переходили разные предвзятые на них воззрения и средневековые понятия, а с присоединением евреев их вошла целая масса. Ведь “Луч”, “Гражданин” (да кажется и “Новое время”) до сих пор верят, что евреи пьют на Пасхе христианскую кровь». Впрочем, в Себеже еврейское население уживалось с прочими горожанами достаточно мирно — во всяком случае, здесь не было ни погромов, ни административных притеснений, которые омрачали жизнь евреев во многих городах Российской империи.
До революции 1917 года Себеж входил в состав Витебской (Белорусской) губернии, а при советской власти передавался то Ленинградской, то Калининской, то Псковской области (ныне, как уже говорилось, он входит в состав последней). Местечко жило сонной провинциальной жизнью, промышленность и культура там, можно сказать, отсутствовали, большинство населения занималось мелким ремеслом или торговлей. Только в 1866 году в Себеже открылась еврейская школа для мальчиков, в которой учился и Зиновий Гердт.
Будущий артист родился 21 сентября 1916 года в семье Эфроима Яковлевича Храпиновича (сам актер писал имя отца как «Афроим») и Рахили Исааковны, в девичестве Секун. Он был четвертым ребенком в семье, младшим и, естественно, самым любимым. В память о ком-то из предков его назвали Залман — среди евреев Восточной Европы была распространена эта форма имени Соломон, которое, в свою очередь, происходит от слова «шалом» — «мир», а по другой версии, от «шалем» — «совершенный», «цельный». Дом, где появился на свет будущий артист, не сохранился, но местные краеведы установили, что он стоял на главной себежской улице Петра Великого, позже переименованной в Пролетарскую — неподалеку, на Замковой улице, сохранился дом, где за 211 лет до рождения Залмана останавливался царь-реформатор, навестивший город в годы Северной войны.
Эфроим Храпинович в юности работал приказчиком в лавке тканей, потом устроился коммивояжером в одну из крупных коммерческих фирм. После революции, с наступлением нэпа, выполнял те же обязанности как представитель райпотребсоюза. Гердт не раз вспоминал отца, когда играл Арье-Лейба в фильме «Биндюжник и Король» по рассказам Бабеля: «Не подумайте, что отец мой был похож на Арье-Лейба, вовсе нет. Мой отец был человеком небогатым, но очень честным и уважаемым в Себеже, в синагогу по субботам ходил, да и вообще придерживался традиций. И хотя я не сохранил фамилию отца, память о нем живет во мне до сих пор».
Судя по всему, отец артиста был человеком широких взглядов — именно он настоял, чтобы его сыновья Борух (Борис) и Залман посещали не только хедер, но и занятия в русской школе. После отмены черты оседлости многие евреи покидали бедный и скудный мирок родного местечка и устремлялись в большой мир, где русский язык был необходим. В те годы русский начали преподавать и в хедере наряду с такими предметами, как арифметика и география. В реформированном себежском хедере изучали также историю Израиля и иврит — недавно возрожденный древнееврейский язык. Но, конечно, самым главным было толкование Торы и Талмуда. Учителя отмечали способности Гердта к запоминанию религиозных текстов и молитв, он был среди тех немногих, кому прочили должность раввина.