Осенью 1922 года Судоплатова переводят служить в пограничные войска, вначале в погранотделение города Из-яслав, а затем на Славутинский погранпост. Именно здесь Судоплатов соприкасается с особо секретными операциями разведки. Режим особой секретности был обусловлен тем, что по условиям мирного договора от 18 марта 1921 года между РСФСР и Польшей стороны обязались не создавать и не поддерживать организации, имеющие целью вооруженную борьбу с подписантом. Однако нелегальная боевая работа диверсионно-террористического характера на территории Западной Белоруссии и Западной Украины продолжалась. В данном случае политической задачей являлось воссоединение Западной Украины и Западной Белоруссии с Россией.
Операции Разведупра по активной разведке были тщательно законспирированы, в том числе от пограничников и местных органов ВЧК — ОПТУ, и были свёрнуты только в 1925 году по решению высшего военно-политического руководства СССР. Славутинскому погранпосту в этой тайной войне отводилась далеко не последняя роль. Павел, наблюдавший за молчаливыми людьми в гражданской одежде, мог понимать, что принимает участие в обеспечении совершенно секретных операций.
В начале сентября 1923 года Судоплатов подаёт рапорт об увольнении. Основной причиной такого поступка могла быть физическая, но главное — психологическая усталость юноши, которому к тому времени исполнилось всего 16 лет.
Другая причина заключалась в сокращении чекистского аппарата после окончания Гражданской войны, но это также связано с возрастом Павла. Рапорт молодого пограничника удовлетворили, и он вернулся домой в Мелитополь. Он поступает на службу в аппарат Мелитопольского окружного комитета Ленинского Коммунистического союза молодёжи Украины (ЛКСМУ). В 1924 году его направляют секретарём комсомольской ячейки в село Ново-Григорьевка Запорожской области. С января 1925 года Судоплатов — секретарь ячейки ЛКСМУ завода имени В.В. Воровского в Мелитополе. А в феврале того же года окружной комитет комсомола рекомендует «товарища Судоплатова» на работу в органы ОШУ. Впереди у Павла Анатольевича интересная и сложная работа в органах госбезопасности.
Итак, в феврале 1925 года в возрасте семнадцати лет Павел Судоплатов возвращается на службу в органы государственной безопасности — Мелитопольский окружной отдел ГПУ УССР. До 1927 года Судоплатов занимался обработкой оперативной информации, составлением отчётов, сводок и других справочных данных секретного характера.
В феврале 1928 года Павел вступает в ряды Всесоюзной Коммунистической партии большевиков — ВКП(б). (Партия получила новое название — Всесоюзная Коммунистическая партия (большевиков) на XIV съезде в 1925 году в связи с образованием СССР.)
В августе 1928 года Судоплатов получает очередное повышение и переводится в столицу тогдашней Украины г. Харьков на должность помощника уполномоченного секретного отделения Харьковского окротдела ПТУ УССР. В 1930-х годах П.А. Судоплатова переводят в центральный аппарат ПТУ УССР на должность помощника уполномоченного Отдела информации и политического контроля.
В 1932 году Судоплатов был переведён в Москву на должность старшего инспектора Отдела кадров ОПТУ. В это время он знакомится с начальником ИНО ОГЛУ А.Х. Артузовым и его заместителем А.А. Слуцким. В 1933 году Судоплатов переходит на оперативную работу в разведке. Это ещё один поворотный момент в его судьбе.
Назначение на оперативную работу в Иностранном отделе являлось далеко не таким простым. Противник, с которым отныне поручалось иметь дело Судоплатову, был хитёр и коварен. К 1933 году в среде украинских националистов произошли существенные изменения. С 1923 по 1928 год Украинская военная организация в обмен на свои услуги получила от спецслужб Веймарской республики свыше 2 миллионов марок.
Украинские националисты установили с германскими спецслужбами самые тесные контакты. После прихода А. Гитлера к власти в Германии наметились контакты специальных структур ОУН — УНО с СД и гестапо. Естественно, что руководство немецких спецслужб планировало использовать украинских националистов в своих собственных интересах.
Для руководства деятельностью националистов в Западной Украине был создан специальный орган ОУН — Краевая экзекутива (КЭ). Постепенно этот орган под руководством
С.А. Бандеры стал фактически неподотчётным ОУН и превратился в самостоятельную организацию. Но оуновцы активно действовали не только против Польши, но и против Советского Союза с польской и чехословацкой территорий. Более того, оуновцы пытались проводить террористические акты против официальных советских представителей и на территории третьих стран.
Советские органы государственной безопасности вели против украинских националистов нелёгкую и жесткую борьбу. Чекисты отслеживали и неоднократно пресекали террористические акты украинских националистов против советских государственных деятелей.