Несмотря на смерть мужа, Хелена Дзержинская сумела создать все условия для всестороннего развития своих детей.Известно, что Дзержинская вместе со своей дочерью Альдоной стали первыми учителями Феликса. Именно они подготовили мальчика к поступлению в 1-ю Виленскую гимназию. Однако нельзя сказать, что учеба давалась Феликсу легко. Он даже оставался на второй год. В первую очередь это произошло потому, что он неважно владел русским языком. Читать и писать по-польски он научился раньше, чем по-русски. Хромало и поведение. Дзержинский шалил, дрался с товарищами, а однажды проявил неуважение к учителю немецкого языка, выкрикнув что-то, когда тот зашел в класс. В свидетельстве об окончании и семи классов гимназии по немецкому у Дзержинского стояла тройка, впрочем, как и по большинству других предметов.
Лучше всего Феликс Дзержинский успевал только по Закону Божьему. И это неудивительно: в детстве он мечтал стать ксендзом (польским католическим священнослужителем). Однако мать и близкий ксемьей Дзержинских священник всячески противились этому желанию мальчика, отговаривали его. В тот период своей жизни Феликс был не просто религиозен, а фанатичен до нетерпимости. Однажды юный Дзержинский даже поклялся своему брату в том, что, если он когда-нибудь узнает, что Бога нет, непременно пустит себе пулю в лоб. Между тем никаких радикальных мер предпринимать не пришлось: Дзержинский сам отказался от своей мечты, вступив в литовскую социал-демократическую организацию. Он бросил гимназию, заявив, что «развиваться можно и, работая среди рабочих, а университет только отвлекает от идейной работы, создает карьеристов».
Говорят, что взгляды Дзержинского изменились кардинальным образом после смерти любимой матери, которая умерла в 1896 году. Феликс Эдмундович всегда о ней тепло отзывался: «Мама наша бессмертна в нас. Она дала мне душу, вложила любовь, расширила мое сердце и поселилась в нем навсегда». Эти слова выдают в Феликсе Эдмундовиче, главы ВЧК (Всероссийской чрезвычайной комиссии по борьбе с контрреволюцией и саботажем), которого многие попросту боялись, по-настоящему чувствительную натуру и даже поэта. Вот, например, как он писал о своем сыне Ясике: «Любовь к Ясику переполняет мою душу, будто в нем сосредоточилась вся моя жизнь. Он моя тоска, моя мысль и надежда, и, когда я вижу его глазами души, мне кажется, что я вслушиваюсь в шум моря, полей и лесов, в музыкусобственной души, всматриваюсь в искрящееся звездное небо, шепчущее что-то сладкое...».
Между тем наверняка никто не будет спорить с тем, что руководить ВЧК мог лишь человек с твердым характером, жесткий, может быть, даже где-то черствый. Какое же событие в жизни юного Феликса так повлияло на становление его личности, формирование перечисленных качеств? Дело в том, что будучи подростком Дзержинский потерял любимую сестру. Девочка, которую звали Ванда, тоже обожала Феликса и буквально ходила за ним по пятам. Феликс отвечал Ванде тем же. Более того, он ревновал сестру ко всем, кто к ней приближался. Как-то раз пятнадцатилетний Дзержинский вместе со своим братом Станиславом ради потехи затеяли стрельбу по мишеням. Ванда случайно оказалась на линии огня и была насмерть сражена пулей. В тот момент оружие якобы находилось в руках Станислава. По словам другого брата Дзержинского, Игнатия, Феликс не любил охоту.
Однако существует и иная версия произошедшей трагедии. Так, Ядвига Соснковская, которая жила тех краях, утверждала, что Дзержинский на самом деле охоту обожал, и именно он случайно застрелил сестру. Девочка спряталась в кустах для того, чтобы напугать любимого брата, но запуталась в ветках и не успела вовремя выпрыгнуть. Феликс подумал, что в кустах затаился зверь и выстрелил из ружья. А белогвардейский контрразведчик Владимир Орлов в своих мемуарах писал, что Дзержинский и вовсе намеренно убил Ванду, мотивом же преступления стала ревность.
Как бы то ни было, следствия по факту гибели Ванды Дзержинской не проводилось: все списали на несчастный случай. Но самое странное, что после гибели девочки семья будто забыла о ней. Никто из Дзержинских никогда не упоминал ее имени в письмах, не сохранилось также ни одной фотографии Ванды. Возможно, смерть девочки стала для всех такой страшной трагедией, что было больно даже обмолвиться об этом. И Дзержинские договорились о том, что больше не будут обсуждать эту тему. А, может быть, Дзержинские действительно что-то скрывали. По крайней мере, для Феликса потеря сестры стала ужасным ударом.
В то же 1897 году Феликс Дзержинский с головой окунулся в пропагандистскую деятельность. После революции он войдет в число самых видных революционеров, создаст и возглавит ВЧК. Его будут бояться, уважать, ненавидеть, боготворить. Такое разное отношение к Дзержинскому было вызвано его противоречивой натурой. Одной рукой он расправлялся с так называемыми контрреволюционерами, а другой – помогал беспризорникам, он был трудоголиком, спал прямо кабинете, ел что придется, но в то же время лечился в лучших санаториях страны и даже за границей.
Яков Свердлов