Рудольф Иванович не дрогнул и стойко держался как на следствии, так и на суде. На первом судебном заседании он заявил:
15 ноября 1957 года суд вынес свое решение и приговорил Абеля к 32-м годам тюремного заключения. Находясь в тюрьме, он в очередной раз отклонил все предложения американских спецслужб о сотрудничестве в обмен на свободу.
В марте 1958 года с ним лично провел беседу Директор ЦРУ — Аллен Даллес. После ее завершения он сказал адвокату Вильяму Доновану, защищавшему Рудольфа Ивановича:
В последующем не без участия Даллеса, с разрешения министерства юстиции США, Абелю позволили вести переписку с родственниками. Этим не замедлили воспользоваться в КГБ. В их числе оказался другой выдающийся советский разведчик, будущий начальник нелегальной разведки управления «С» ПГУ КГБ и командир легендарной «Альфы» Юрий Дроздов. Он выступал в роли кузена Абеля — Юргена Дривса. Его письма служили сигналом разведчику, что он не забыт и руководство КГБ ищет пути к его возвращению домой.
Тягуче-мучительно тянулись недели, месяцы, годы заключения Абеля в американской тюрьме. Он не сдавался, занимался математикой, теорией искусства и живописью. Один из портретов его кисти — президента Кеннеди, в последствии, как говорили очевидцы, занимал место в Овальном кабинете Белого дома. Разведчик верил, что не будет оставлен на произвол судьбы, и ждал своего часа.
Он приближался. 1 мая 1961 года американский самолет-разведчик «Локхид U-2», под управлением военного пилота ВВС США Фрэнсиса Пауэрса в 5:36 по московскому времени, в двадцати километрах юго-восточнее города Кировабада, Таджикской ССР вторгся в воздушное пространство СССР. Полет проходил на высоте 20 000 метров и, как полагали в ЦРУ — организаторе разведывательной операции «Оверфлайт», недосягаемой для советских средств ПВО.
Маршрут самолета-шпиона пролегал над стратегически важными в оборонном плане районами СССР: космодромом «Тюратам», ныне «Байконур», и особо режимными объектами на Южном и Центральном Урале, научно-исследовательским ядерным центром «Арзамас-14» и северным испытательным полигоном «Плесецк». На них в обстановке строжайшей секретности создавался ракетно-ядерный щит страны. Пауэрсу предстояло осуществить аэрофотосъемку на всем протяжении полета. Организаторы этой грандиозной операции-провокации в Белом доме и Лэнгли (ЦРУ) рассчитывали под шумок первомайских праздников осуществить свой коварный замысел. Им это не удалось. Средства ПВО СССР обнаружили нарушителя сразу же, как только он пересек государственную границу СССР. О нем было доложено высшему военному и политическому руководству страны.
В те самые минуты, когда самолет-шпион находился в районе космодрома «Тюратам», Министр обороны СССР маршал Родион Малиновский и его заместители стояли на трибуне мавзолея рядом с первыми лицами государства — членами Политбюро ЦК КПСС. Перед ними, на Красной площади под звуки задорных песен, сияя радостными улыбками, плескалась людская река. Москвичи не подозревали о нависшей опасности и не замечали тревоги на лице главы государства — Первого секретаря ЦК КПСС, Председателя Совета министров СССР Хрущева Никиты Сергеевича.
Он и те, кто находились на трибуне мавзолея, терялись в догадках о цели полета самолета-нарушителя и оружии, которое могло находиться на его борту. На обращение руководителей советского государства посольство США в Москве не дало вразумительного ответа. Хрущев и Малиновский не могли рисковать безопасностью государства и позволять самолету-шпиону США безнаказанно вести себя над территорией суверенной страны. Малиновский отдал приказ уничтожить нарушителя. Он был выполнен средствами ПВО.
В 8:53 в районе города Свердловска, ныне Екатеринбурга, боевой расчет пуска майора Михаила Воронова поразил самолет-шпион ракетой «земля-воздух» зенитного ракетного комплекса «С-75». Осколками ракеты были выведены из строя хвостовое оперение и двигатель самолета, он потерял управление и стал падать.