Внутри гетто были организованы подпольные оружейные мастерские. В них делали самодельные гранаты и мины, бутылки с взрывчатой смесью, собирали стрелковое оружие. Занимались этим Шмуэл Башевкин, студент Соколович и другие. В подпольной мастерской оружия на улице Чистой работали инженеры Хенох Фарбер (Ковалдо), Яков Фишер (оба окончили политехнический факультет университета в Праге), Хаим Рембишевский. Однажды в подпольной мастерской, расположенной на улице Теплой, во время монтирования мины произошел взрыв, и два молодых подпольщика — Сема Гольдберг и Саша Кухарский — погибли. Я знал обоих, с Кухарским познакомился в гетто, но ни он, ни я не знали друг о друге, что мы подпольщики. Таковы были правила конспирации. Сему Гольдберга я хорошо знал еще до войны. Мы с ним часто встречались, играли в настольный теннис, шахматы. В гетто мне не довелось увидеться с ним, но, как он выглядел до войны, я хорошо запомнил. Внешне нескладный, немного одутловатый подросток, за теннисным столом он преображался: откуда-то появлялись необыкновенная ловкость и прыгучесть. И за шахматной доской (мы играли в городском шахматном клубе) он проявлял хорошие способности и заметную спортивную злость. Именно поэтому он мне запомнился, но оценить его тогда, понять всю глубину страстей, которые бушевали в нем, я, конечно, не мог. Глядя тогда на его немного смешную фигуру и далеко не воинственный вид, я и представить себе не мог, что он будет в условиях кровавого фашистского террора заниматься изготовлением мин в подпольной мастерской и погибнет в ней. Впрочем, с неожиданными превращениями я сталкивался во время войны неоднократно. Очень мирные и тихие люди погибали как герои, и наоборот, люди, с уст которых до войны не сходили патриотические речи, в час испытания иногда оказывались трусами, а в ряде случаев и предателями.
Хотя подпольщики делали всё, чтобы добывать и изготовлять оружие, его катастрофически не хватало. Тогда антифашисты решились на хищение оружия с немецких оружейных складов на Южном шоссе, на улице Липовой, 127, со склада трофейного оружия на улице Сенкевича, 61 и других мест. Наиболее дерзкими были набеги на склад оружия СС на улице Монополевой и на арсенал гестапо на улице Сенкевича, 15. В первом участвовала группа подпольщиков во главе с Вольфом Волковыским. Главными исполнителями второго нападения стали Абрам-Лейзор Рубин и Натек Гольдштейн, проникшие в склад оружия ночью; им помогали Вольф Волковыский и Марек Бух. В обеих операциях было добыто значительное количество оружия. Однако для оказания эффективного вооруженного отпора на территории всего гетто, занимавшего около тридцати улиц, оружия все равно не хватало. К тому же изрядная часть добытого требовала серьезного ремонта.
Кроме постоянных проблем, как добыть исправное оружие и боеприпасы, как переправить их в гетто, как отремонтировать и хранить (основные тайные склады были в гетто, но устраивались и за его пределами; например, часть оружия была спрятана в подвале на территории казармы 42-го полка пехоты, охраняли его Юлий Якубович и его 14-летний помощник Хацкел), существовали и другие, не менее серьезные. Прежде всего — соблюдение максимальной осторожности и конспирации. По мере роста числа участников антифашистской организации эта проблема становилась все более серьезной. Гестапо с помощью сотрудничавших с ним официальных и тайных сотрудников еврейской полиции братьев Юдковских и Цвиклича стремилось обнаружить подпольщиков. Создалось угрожающее положение. Руководство подпольной организации приняло решение убрать провокаторов и вынесло им смертный приговор. Он был приведен в исполнение. Сначала нападение было совершено на старшего Юдковского. Он был тяжело ранен, и его поместили в больницу. Еще двое братьев Юдковских и Цвиклич скрылись за пределами гетто. Однако за ними следили и однажды, когда они зашли в гетто, их заметили две юные подпольщицы — Мика Датнер и Бася Качальская. Они немедленно доложили об этом руководству. На углу улиц Огродовой и Фабричной предатели наткнулись на засаду. Цвиклич был убит, один из Юдковских ранен. В акте возмездия приняли участие Натек Гольдштейн, Рувим Левин, Марек Бух, Тадек Малер, Нахум Штепер и другие.