Именно в эти дни Сержан установил контакты с Пьером Лагайяром и Жозефом Ортизом — алжирского кафе «Форум» где собирались идеологи движения за французский Алжир и основателем Французского национального фронта (ФНФ, не путать с Национальным Фронтом, созданным в 1972 г.). Однако очень скоро он понял, что путчисты исходят из неправильной посылки: они предполагали, что новый путч в Алжире заставит де Голля пойти им на уступки. Но де Голль, как прекрасно понимал Сержан, сильно отличался от бесхребетных политиканов Четвертой республики. Шантажировать его было бесполезно.
«Неделя баррикад» закончилась поражением путчистов. Однако армия не отказалась от идеи сохранения французского Алжира, тем более, что для Иностранного Легиона Алжир был больше, чем колонией, которую требовалось защищать — он был домом. Ведь сам Легион был создан в 1831 г. именно для завоевания этой страны, и первые победы Легиона были одержаны в войне за Алжир, когда семь батальонов под командованием швейцарского наемника полковника Штоффеля отправились в Северную Африку сражаться с бедуинами Абд аль-Кадира. С тех пор — и до 1962 г. — штаб-квартира Иностранного Легиона располагалась в огромных казармах в Сиддибель Аббес.
Полагая, что только патриотически настроенные офицеры могут предотвратить позорную сдачу Алжира, Сержан вступил в тайную организацию военных, которые готовили новый мятеж — на этот раз куда более масштабный. Во главе заговорщиков стоял генерал Рауль Салан — в прошлом верный сподвижник де Голля, назначенный им после путча 1958 г. главнокомандующим французскими войсками в Алжире, но впоследствии отозванный в метрополию и назначенный военным губернатором Парижа. В июне 1960 г., когда де Голль начал переговоры с представителями ФНО, Салан вышел в отставку, а затем уехал в Испанию, где вступил в контакт с влиятельным политиком режима Франко Рамоном Серрано Суньером. В Испании, пользуясь покровительством Суньера, он и жил, как частное лицо, но лицо, обладающее огромным авторитетом среди французских военных. К нему в Мадрид приезжали алжирские заговорщики — Пьер Лагайярд и Жан-Жак Сюзини. В конце 1960 г., за несколько недель до назначенного на 8 января 1961 г. референдума о самоопределении Алжира, капитан Сержан осуществлял контакты между различными ветвями заговора, встречаясь с будущими участниками путча 1962 г. По-видимому, именно он вовлек в заговор генерала Жуо (будущий заместитель Салана по ОАС, «Солнце-2»).
Однако Сержан был неопытным конспиратором: военная контрразведка довольно быстро обратила внимание на его политическую активность и в январе 1961 г., сразу после референдума (на котором 75 % населения проголосовало за предоставление Алжиру независимости) он был переведен в Шартр, с запретом возвращаться в Алжир.
В это же время, в Мадриде Рауль Салан, Жан-Жак-Сюзини и Пьер Лагайярд основали Секретную вооруженную организацию — ОАС, которой суждено было сыграть важнейшую роль в формировании французского националистического движения.
ОАС — Organisation de l'armée secrète — первоначально была создана, как структура для подготовки военного переворота, который, по замыслу ее отцовоснователей, должен был привести к отстранению от власти де Голля и возвращению к политике сохранения Алжира в составе Франции. Пьер Сержан, доказавший уже свою преданность делу французского Алжира, был назначен главой филиала организации в метрополии. Эта группапозже получила название O.A.S.-Métropole (впоследствии из нее возникнет группа «Метро-Молодежь», которая, свою очередь, даст начало Движению молодой революции главой которой станет Пьер Сержан).
Сержан, служивший в Шартре и занимавшийся подготовкой парашютистов, имел возможность часто ездить в Париж, не привлекая особого внимания военной контрразведки (по всей видимости, контрразведчики отслеживали в основном его контакты с Алжиром). Ему удалось склонить на сторону заговорщиков целый ряд друзей-офицеров, которые были переведены из Алжира в метрополию; весной 1961 г. все они вернулись в Северную Африку, где примкнули к восставшим. А 19 апреля 1961 г. покинул свой полк и сам Сержан. Он нарушил приказ, запрещавший ему возвращаться в Алжир, и принял непосредственное участие в «путче генералов» — том самом, в котором так и не удалось поучаствовать Жан-Мари Ле Пену (см. главу 2).
Путч начался в ночь с 21 на 22 апреля и поначалу события развивались удачно для мятежников: 1-му парашютному полку Иностранного легиона, в котором служил Сержан, удалось захватить мэрию, дворец генерал-губернатора, а главное — аэропорт. Танки полковника Годара блокировали здание адмиралтейства, и вице-адмирал Кервилль, командующий ВМС Франции в Средиземноморье, бежал в Оран.
Однако уже 22 апреля в Париже были арестованы офицеры, командовавшие силами путчистов в метрополии. Попытка поднять восстание в самом Париже была подавлена в зародыше.