По приказу немецких властей все еврейское население обязано было зарегистрироваться в специально созданном Еврейском комитете — Юденрат. Приказ предупреждал, что незарегистрированным евреям при переселении будет отказано в квартирах. При регистрации записывались имя, фамилия, возраст и адрес.
Еврейский комитет был создан следующим образом: работники гестапо поймали на улицах города 10 мужчин, завели их в Дом правительства и заявили, что они представляют собой Еврейский комитет и обязаны выполнять все распоряжения немецких властей. За малейшую провинность — расстрел.
Председателем Комитета назначили Илью Мушкина — бывшего заместителя директора Минпромторга.
К 15 июля 1941 года регистрация евреев была закончена. К этому же времени под страхом расстрела евреям приказали одеть желтые латы, строго определенного размера, на грудь и на спину (диаметр 10 сантиметров). Было издано распоряжение, запрещавшее евреям ходить по центральным улицам. Запрещалось здороваться со знакомыми неевреями. Затем был издан приказ немецких властей о создании гетто.
Кроме этого, на евреев наложили контрибуцию: золотом, серебром, советскими денежными знаками и облигациями некоторых займов.
Из старых насиженных мест потянулись толпы евреев, они оставляли свои квартиры, мебель, вещи, забирая с собой только самое необходимое. Транспорта никакого у них не было, и вещи переносили на плечах. Квартирная площадь предоставлялась из расчета 1,5 квадратных метра на человека, не считая детей.
Переселение не обошлось без издевательств: для гетто был отведен строго очерченный район, но как только вселялись в квартиру люди, сейчас же издавался новый приказ, исключавший одни улицы и включавший другие.
В продолжение двух недель, с 15 июля по 31 июля 1941 года, евреи мытарствовали, перекочевывая с места на место. К 1 августа 1941 года было закончено переселение евреев. При смешанных браках дети следовали за отцом: если отец был евреем, дети уходили с ним в гетто, мать оставалась в городе. Если отец не был евреем, дети жили с ним в городе, мать еврейка должна была уйти в гетто. Известен случай, когда профессор Афонский, русский, женатый на еврейке, выкупил у немецкого командования жену из гетто. Ей разрешено было жить с мужем и дочерью в городе (вне гетто) при условии стерилизации. Соответствующая операция была произведена под наблюдением немцев профессором Клумовым. Случай этот является исключительным. У профессора Афонского был значительный запас золотых монет, которые он вместе с деньгами, вырученными от распродажи всего своего имущества, целиком передал немцам в счет выкупа.
В гетто вошли улицы: Хлебная, Немигский переулок, часть Республиканской, часть улицы Островского, Юбилейная площадь, часть Обувной, Шорной, Коллективной, 2-й Апанский переулок, Фруктовая, Техническая, Танковая, Крымская и некоторые другие. Эти улицы были изолированы от центра города, торговых и промышленных предприятий. Но зато кладбище было включено в территорию гетто.
Гетто было окружено колючей проволокой в пять рядов. Выход из-за проволоки карался расстрелом. Торговля, покупка продуктов питания запрещались евреям под страхом расстрела. Расстрел стал спутником жизни евреев.
Семья рабочего Черно состояла из шести человек: двух взрослых и четырех маленьких детей. Жена Черно — Анна не в состоянии была видеть страдания голодных детей и пошла в русский район просить у своих друзей помощи. На обратном пути ее остановили полицейские, забрали все, что у нее было, завели в тюрьму и там расстреляли. Такая же участь постигла Розалию Таубкину, которая перешагнула проволоку для встречи со своими русскими родственниками.
Как только гетто окружили проволокой, начались грабежи и насилия. Каждый час — днем и ночью — к гетто подъезжали на машинах и подходили пешком немцы, заходили в еврейские квартиры и чувствовали себя там неограниченными хозяевами: грабили и забирали из квартир все, что им нравилось. Грабежи сопровождались избиениями, издевательствами и, нередко, убийствами.
Ночью немцы нападали на еврейские дома и убивали жителей. Убийства совершались особо жестокими способами: выкалывали глаза, вырезали языки, уши, ломали черепа и т.д.
Особенно страдали районы улиц Шевченко, Зеленая, Заславская, Санитарная, Шорная и Коллекторная. Евреи защищали свои квартиры: делали двойные двери, железные засовы, не впускали, когда стучались в дом бандиты, устраивали дежурства, самооборону, но сила оружия брала верх: двери и окна выламывались, и бандиты врывались в дома. В квартиру, где жила женщина-врач Эсфирь Марголина, ворвались немцы, избили всех, двух человек убили. Марголину тяжело ранили: в нее всадили четыре пули. Над семьей Каплан, по Заславскому переулку, долго издевались: отцу выкололи глаза, дочери срезали уши, другим членам семьи проломили черепа, а потом всех расстреляли...