В Мелитополе срочно объявили набор добровольцев в Красную Армию, и 26 июня, в свои неполные 12 лет, П. Судоплатов становится бойцом Мелитопольского рабочего отряда.
Служил он недолго, до августа 1919 года. Однако за это время сумел испытать многое. В сражении Павел попадает в плен, закончившийся побегом благодаря пьянству станичников. Это стало для мальчика первым уроком выживания.
В боях под Одессой Павел попадает в госпиталь с подозрением на тиф, но, к счастью, диагноз не подтвердился. В течение пяти месяцев Павел находился в Одессе, уже занятой белыми.
Когда к Одессе в начале 1920 года подошли красные, Павел участвует в уличных боях в рядах восставших рабочих. Хорошо освоив за время беспризорничества все укромные места портового города, Судоплатов помогает красноармейцам вылавливать спрятавшихся белогвардейцев. В итоге зимой 1920 года он вновь вступает в ряды Красной Армии и становится бойцом роты связи 123-й стрелковой бригады.
1921 год становится в судьбе Павла Судоплатова поистине переломным. Комиссар дивизии Упит обратил внимание на смышлёного и образованного паренька и предложил ему поехать учиться на курсы политработников в Киев. Но в дело вмешался «его величество Случай», хотя случайность – это всего лишь незапланированная закономерность.
В июле 1921 года в засаду, устроенную украинскими националистами, попали сотрудники Особого отдела 44-й дивизии, и многие из них погибли. Учитывая происхождение, образование, Судоплатову была предложена вначале должность телефониста, а затем шифровальщика. Так – после диверсионной операции противника – началась его служба в органах ВЧК – ГПУ – ОГПУ – НКВД – НКГВ – МГБ.
«В дивизии, в которой я служил, вместе с нами сражались поляки, австрийцы, немцы, сербы и даже китайцы. Последние были очень дисциплинированными и сражались до последней капли крови. Борьба шла жестокая, и случалось, что целые деревни оказывались уничтоженными украинскими националистами и бандформированиями: всего в ходе Гражданской войны в Украине погибло свыше миллиона человек.
Опыт, приобретённый при выполнении обязанностей телефониста, а затем шифровальщика, оказался бесценным. Я печатал документы с грифом “секретно” и расшифровывал телеграммы, которые мы получали непосредственно от главы ВЧК Феликса Дзержинского из Москвы.
…Дивизия была переведена в Житомир. Главной задачей нашего особого отдела была помощь местному ЧК в проникновении в партизанское подполье украинских националистов, руководимое Петлюрой и Коновальцем. Их вооруженные банды устраивали диверсии против органов Советской власти на местах».
Осенью 1922 года Судоплатова переводят служить в пограничные войска, вначале в погранотделение города Изяслав, а затем на Славутинский погранпост. Именно здесь Судоплатов соприкасается с особо секретными операциями разведки. Режим особой секретности был обусловлен тем, что по условиям мирного договора от 18 марта 1921 года между РСФСР и Польшей стороны обязались не создавать и не поддерживать организации, имеющие целью вооруженную борьбу с подписантом. Однако нелегальная боевая работа диверсионно-террористического характера на территории Западной Белоруссии и Западной Украины продолжалась. В данном случае политической задачей являлось воссоединение Западной Украины и Западной Белоруссии с Россией.
Операции Разведупра по активной разведке были тщательно законспирированы, в том числе от пограничников и местных органов ВЧК – ОГПУ, и были свёрнуты только в 1925 году по решению высшего военно-политического руководства СССР. Славутинскому погранпосту в этой тайной войне отводилась далеко не последняя роль. Павел, наблюдавший за молчаливыми людьми в гражданской одежде, мог понимать, что принимает участие в обеспечении совершенно секретных операций.
В начале сентября 1923 года Судоплатов подаёт рапорт об увольнении. Основной причиной такого поступка могла быть физическая, но главное – психологическая усталость юноши, которому к тому времени исполнилось всего 16 лет. Другая причина заключалась в сокращении чекистского аппарата после окончания Гражданской войны, но это также связано с возрастом Павла. Рапорт молодого пограничника удовлетворили, и он вернулся домой в Мелитополь. Он поступает на службу в аппарат Мелитопольского окружного комитета Ленинского Коммунистического союза молодёжи Украины (ЛКСМУ). В 1924 году его направляют секретарём комсомольской ячейки в село Ново-Григорьевка Запорожской области. С января 1925 года Судоплатов – секретарь ячейки ЛКСМУ завода имени В.В. Воровского в Мелитополе. А в феврале того же года окружной комитет комсомола рекомендует «товарища Судоплатова» на работу в органы ОГПУ. Впереди у Павла Анатольевича интересная и сложная работа в органах госбезопасности.
Итак, в феврале 1925 года в возрасте семнадцати лет Павел Судоплатов возвращается на службу в органы государственной безопасности – Мелитопольский окружной отдел ГПУ УССР. До 1927 года Судоплатов занимался обработкой оперативной информации, составлением отчётов, сводок и других справочных данных секретного характера.