Существуют некоторые сомнения относительно подробностей ранней жизни Абеля. Он родился в начале века в России. В одном из отчетов разведки утверждается, что он был сыном богатого еврейского интеллектуала с юга России. Другие говорили, что его отец был печатником в белорусском городе Минске . Но каковы бы ни были факты относительно его семейного прошлого, достоверно известно, что отец Абеля был вынужден бежать из России в 1906 году из-за своих левых взглядов. Сначала семья нашла убежище в Швейцарии, где отец Абеля подружился с советским беженцем левого толка Владимиром Ильичем Ульяновым, вошедшим в историю как Ленин.
Семья переехала из Швейцарии в Германию и осела в Лейпциге . В годы Первой мировой войны Рудольф Абель был самым блестящим учеником в немецкой гимназии для мальчиков и бегло говорил по-немецки, по-русски и на идише . После революции 1917 года Ленин пригласил отца Абеля в Россию, и семья Абелей переехала в Москву, не порывая, однако, полностью своих связей с Германией. Молодой Абель был фанатичным коммунистом и в 1923 году стал членом Коммунистической партии Советского Союза.
Влиятельные фигуры Советской России, с которыми общался его отец, выделяли молодого Абеля как одного из будущих советских интеллектуалов. Троцкий к тому времени уже основал военную шпионскую службу, которая позже превратилась в ГРУ, и Абель со своей способностью к языкам, понятно, был первым кандидатом в разведчики. Его отправили в Берлин для обучения в знаменитой Технической школе, которую он три года спустя закончил со степенью.
После прохождения курса обучения шпионажу в Москве, его отправили обратно в Германию в качестве помощника торгового атташе в советском посольстве, где он работал под псевдо-
нимом Аволкин. Главным полем деятельности для него были тайные операции. В течение некоторого времени он работал в качестве инженера на знаменитом оптическом заводе Цейсса в Йене. Он поддерживал связи с Лейпцигом и в 1923 году женился на немецкой девушке по имени Хельга Пользнер, дочери члена германской коммунистической партии. Через год у них родилась дочь Юлия.
Вскоре, как специалиста-оптика, Абеля вызывают в Россию, чтобы он помог в организации советской оптической промышленности. Однако его способность вести разведывательную работу в Германии столь явно бросалась в глаза, что его отобрали в группу для прохождения специального обучения в школе шпионажа в Москве. Он выучил английский, очевидно с помощью какого-нибудь ирландца, и в последующие годы его почти безупречно поставленный дублинский акцент доставлял особое удовольствие американским сотрудникам ФБР ирландского происхождения .
Абеля стали признавать как выдающегося специалиста по Германии, и именно Третий рейх и стал местом его назначения после прохождения учебы в московской школе шпионажа. В течение некоторого времени он взаимодействовал с коммунистическими группами в Берлине, Лейпциге и Дрездене. Высокий, видный, с худощавым лицом и блестящими черными глазами, Абель совсем не был похож на еврея. Однако форма его носа вызывала подозрения у нацистских фанатиков-антисемитов, так что было решено отозвать его из гитлеровского рейха.
Под видом польского еврея он отправляется в Палестину, чтобы информировать об английских сложностях в отношениях с муфтием Иерусалима, с одной стороны, и сионистами, с другой. Но в конце концов его акцент возбудил подозрения у польско-еврейской общины, и Абелем заинтересовалась британская палестинская полиция. Был ли он депортирован или же просто бежал еще до того, как англичане предприняли какие-то действия, неизвестно, однако нет сомнений, что он вернулся в Москву. И следующим местом его назначения стала Швейцария. По словам бывших восточногерманских агентов советского ГБ, в конце 1942 года Абеля послали на встречу с Александром Радо — официальным резидентом сети Росслера—Фута. Радо был ветераном ГРУ, а Абель — майором ГБ, и приказ о ревизии силами ГБ сетей ГРУ мог прийти только от самого Политбюро.
Как долго Абель пробыл в Швейцарии — неизвестно. Возможно, что он встречался с людьми, которых знал еще с тех времен, когда семья Абеля жила в Швейцарии. С помощью многих хитростей и уловок ему удалось пересечь оккупированную
Европу и добраться до Среднего Востока. В конце 194 4 года он уже был в Тегеране, помогая наладить подпольную деятельность, на фоне которой и развивались многие советские интриги в северной Персии.