Возглавлять наркомат Военно-Морского Флота Смирнову довелось ровно полгода, как и Политуправление РККА… Так сказать день в день, ибо 30 июня 1938 года он был арестован и препровожден во внутреннюю тюрьму НКВД. Там его уже ожидали начальник 2-го Управления НКВД комбриг Н.Н. Федоров со своим помощником – опытным «колольщиком» майором госбезопасности В.С. Агасом. Двое суток они оказывали на него мощное психологическое давление, но до побоев дело пока не доходило – следователи надеялись сломить сопротивление со стороны Смирнова, не прибегая к мордобитию. Основную ставку Федоров и Агас делали на показания ранее арестованных бывших сослуживцев Петра Александровича, хорошо знавших его прежде всего по Белорусскому и Ленинградскому военным округам, а также по ПУРККА и наркомату ВМФ – И.П. Белова, А.С. Булина, А.И. Егорова, С.П. Урицкого, Д.Ф. Сердича, Б.У. Троянкера, Ф.С. Мезенцева, П.С. Иванова, И.И. Сычева и других.
От него требовали «совсем немного» – признать свое участие в военно-фашистском заговоре и принадлежность к белорусско-толмачевской оппозиции 1928 года; вербовочную работу по вовлечению в заговор новых членов; вредительскую деятельность по ослаблению боевой мощи Красной Армии и политико-морального состояния ее личного состава, а также принятие руководства военно-фашистским заговором по военно-политической линии (после смерти Гамарника).
Например, чего стоило Смирнову читать показания, написанные рукой Петра Иванова – начальника политотдела Оршанской авиабригады: «С приездом в БВО Смирнова там стала действовать подпольная контрреволюционная организация, руководимая Смирновым П.А… Дважды присутствовал при антисоветских разговорах, проводимых Смирновым, в которых он высказывал мысль против НКО – что он не способен руководить армией… Лично встречался со Смирновым и тот рассказал, что цель организации – устранение от руководства армией Ворошилова, сохранение троцкистских кадров, вербовка новых членов. Таким образом, в военный заговор первый раз был вовлечен Смирновым П.А., и второй – Булиным А.С.».
Или показания корпусного комиссара М.Р. Шапошникова, полученные от него за неделю до ареста Смирнова. Надо отметить, что Шапошников являлся выдвиженцем, так сказать протеже Смирнова: именно его, начальника отдела ПУРККА, рекомендовал Петр Александрович для утверждения ЦК ВКП(б) на самую высшую политическую должность во вновь создаваемом наркомате Военно-Морского Флота СССР. Сделать это было нетрудно – Смирнов, уходя из ПУРККА, имел возможность выбрать себе заместителя по политической части. И выбор этот он сделал в пользу Михаила Шапошникова, зная того много лет по совместной службе в различных округах.
И вот перед ним показания Шапошникова, в которых тот пишет, что его, тогда начальника организационного отдела Политуправления РККА, вызвал к себе Смирнов и поставил задачу «всемерно разоблачать троцкистов, чтобы зашифровать свою деятельность». Далее Шапошников сообщает, что ему совместно со Смирновым удалось добиться назначения на ответственные военно-политические посты в РККА ряда заговорщиков. К числу последних он отнес корпусного комиссара Я.В. Волкова – члена Военного совета ТОФ, дивизионного комиссара Н.А. Юнга – члена Военного совета СибВО, а также дивизионных комиссаров А.В.Тарутинского – члена Военного совета УрВО, И.М. Горностаева – начальника политуправления КВО, И.И. Кропачева – начальника политуправления ОКДВА, Ф.С. Мезенцева – члена Военного совета Черноморского флота.
Следователи настойчиво «давили» на Смирнова, организовывая для него очные ставки, в том числе с И.П. Беловым и А.С. Булиным – его заместителем по ПУРККА, подсовывая ему все новые и новые показания арестованных, уличавших бывшего военно-морского министра во множестве мыслимых и немыслимых грехов. Так, комдив Д.Ф. Сердич свидетельствовал, что Смирнов, будучи начальником политуправления БВО, окружил себя троцкистами (Н.А. Юнг, Р.Л. Балыченко и другие). Далее Сердич утверждал: «…Хотя мне никогда никто прямо не говорил о том, что Смирнов является участником антисоветского заговора, однако, ряд фактов характеризует его с антисоветской стороны…» К таким фактам Сердич отнес и то, что Смирнов допускал отрицательные высказывания в адрес К.Е. Ворошилова.