В Красную армию он вступил добровольно в мае 1918 года, служил в городском отряде Красной гвардии. Боевое крещение принял в бою в селе Кривском, где красногвардейцы попали в засаду и понесли большие потери. Когда был сформирован 1-й Крестьянский коммунистический стрелковый полк «Красные орлы», куда вошли рабочие Каменска, Камышлова, чехи, венгры и китайцы, стрелком и пулеметчиком полка стал Филипп Голиков. Много лет спустя, в городе Катайске, на праздновании 40-летия образования полка Филипп Иванович отмечал особую стойкость и преданность делу революции бойцов и командиров китайских частей. Он участвовал в сражениях под Егоршино и Кушвой, под Пермью и Калино. Комиссар полка П. Тарских вспоминал: «…Полк находился под заводом Реж. Белые угрожали ударом по нашим подразделениям, находящимся на станции Егоршино. 8-я рота полка получила задание навязать противнику бой, предотвратить удар, дать возможность перегруппировать красные части. В роте был один пулемет, один пулеметчик Филипп Голиков. Трое суток под свинцовым дождем он держал и сковывал белогвардейские части. В этом бою проявилась способность Голикова воевать не числом, а умением».
В январе — марте 1919 года Филипп Голиков учился на военно-агитаторских курсах в Петрограде, по окончании которых его направили на Восточный фронт. Он служил агитатором полковой пулеметной команды 10-го Московского стрелкового полка Особой бригады 3-й армии (март — июнь), секретарем политотдела Особой бригады (июнь — август), инструктором-организатором политотдела 51-й стрелковой дивизии (август 1919 — январь 1920), сформированной на базе Особой бригады. В составе 3-й и 5-й армий Голиков участвовал в наступлении войск Восточного фронта, в июне 1919 — январе 1920-го разгромивших армии Колчака, освободивших Урал и Сибирь.
Три месяца Голиков провел в отпуске после заболевания тифом, а с апреля 1920 года находился на политических должностях в армии — агитатор, начальник отдела информации и начальник организационного отделения политотдела (апрель 1920 — март 1921), начальник политехнического секретариата Свердловского губернского военного комиссариата (март — май 1921), начальник политотдела 217-й отдельной стрелковой бригады, политический инспектор, начальник организационного отделения и начальник отделения партийного строительства политотдела Приуральского военного округа (май 1921 — июнь 1922), помощник начальника, начальник агитационно-пропагандистского отдела политуправления Западно-Сибирского военного округа (июнь 1922 — январь 1926), преподаватель военно-политической академии им. Н.Г. Толмачева в Ленинграде, начальник агитпропотдела политуправления Ленинградского военного округа (январь 1926 — сентябрь 1927). начальник агитпропотдела. затем начальник орготдела политуправления Приволжского военного округа (сентябрь 1927 — май 1929).
В 1929 году Ф. Голиков окончил Курсы усовершенствования высшего начальствующего состава РККА и получил назначение на должность военного комиссара и начальника политотдела 32-й стрелковой дивизии Приволжского военного округа (ноябрь 1930 — сентябрь 1931).
В 1931 году Филипп Иванович сдал экстерном экзамены за военную школу и служил на строевых должностях в войсках. Командир 95-го стрелкового полка 32-й стрелковой дивизии (сентябрь 1931 — октябрь 1933), в 1933-м заочно окончил Академию им. М.В. Фрунзе, стал командиром 61-й стрелковой дивизии Приволжского военного округа (октябрь 1933 — сентябрь 1936), командиром 8-й отдельной механизированной бригады (сентябрь 1936 — июнь 1937), затем командиром 45-го механизированного корпуса Киевского военного округа (июнь 1937 — сентябрь 1938), членом Военного совета Белорусского военного округа.
В сентябре 1938 года Голикова отправили в распоряжение Управления по командному составу РККА. Вспоминает его дочь Нина Филипповна: «Сначала папа был освобожден от занимаемой должности и уволен из армии. Это был тяжелейший удар, тем более что в семье подрастали трое детей, а он был единственным кормильцем. На работу устроиться не мог, жить стало сложнее, но родители как-то выкручивались, и на детях это сильно не отражалось. Только время от времени я замечала, как из дома исчезали мамины вещи: то какая-то хорошая кофта, то меховая шубка, подаренная папой. Но о страшной беде, которая в тот момент нависла над нашей семьей, мы узнали только спустя годы. Как оказалось, после увольнения папу готовились арестовать по какому-то нелепому обвинению. Все документы и бумаги были уже готовы, необходимые подписи собраны. Последнее слово оставалось за наркомом обороны Климентом Ворошиловым. Когда ему принесли на утверждение санкцию на арест Филиппа Голикова, Климент Ефремович отказался ставить свою подпись. Он сказал: “Я не знаю ТАКОГО командира дивизии”».
В ноябре Филиппа Ивановича назначают командующим Винницкой армейской группой войск Киевского особого военного округа; месяцем ранее группа была приведена в боевую готовность и должна была прийти на помощь Чехословакии.