25 мая 1934 года В. А. Антонов-Овсеенко стал прокурором республики. Его приход в прокуратуру совпал с активно начавшейся работой по ее централизации. В Российской Федерации эта тенденция проявилась особенно четко. Прокуратура республики, хотя формально еще и входила в систему Наркомюста, но уже все явственнее проявляла свою самостоятельность и все более зависела лишь от Прокуратуры Союза ССР.
Владимир Александрович не был юристом и никогда не служил в правоохранительных органах. С работой прокуратуры и суда он был знаком лишь исходя из своего опыта политического арестанта царских тюрем, и все же отсутствие профессиональных навыков не помешало ему сразу же активно включиться в работу. Помог большой жизненный опыт революционера, военачальника и дипломата.
В то время вся деятельность органов прокуратуры, как и других центральных учреждений, направлялась мощной рукой ЦК ВКП(б), который принимал основополагающие решения по вопросам государственного, хозяйственного и партийного строительства. Отступления от генерального курса считались недопустимыми, пресекались и жестоко карались. Стержневым для органов прокуратуры в те годы было, конечно, постановление ЦИК СССР, СНК СССР и ЦК ВКП(б) "О революционной законности". Поэтому В. А. Антонов-Овсеенко как прокурор республики стремился четко и твердо проводить его в жизнь.
В личном общении он был исключительно простым и доступным человеком. Прокурор А. Красносельский вспоминал: "Сотрудники заходили в кабинет Владимира Александровича в любое время дня, как к своему старшему товарищу". В то же время Антонов-Овсеенко строго спрашивал с тех, кто проявлял нерешительность в борьбе с нарушениями законов, халатно относился к своим служебным обязанностям, вставал на путь злоупотреблений и беззакония. Таких работников прокуратуры он не только освобождал от должности, но и отдавал под суд.
Прокурором республики В. А. Антонов-Овсеенко оставался чуть более двух лет. В сентябре 1936 года он был назначен генеральным консулом в Барселоне. Именно в этот период в ЦК ВКП(б) стали появляться материалы, серьезно его компрометирующие. В конце 1936 года секретарь Куйбышевского райкома партии получил записку от секретаря парткома Наркомюста об "ошибках троцкистского характера", допущенных В. А. Антоновым-Овсеенко в бытность его прокурором республики.
Какие же ошибки Антонова-Овсеенко партийные функционеры относили к "троцкистским"? Оказывается, 31 января 1936 года на общем собрании сотрудников Наркомюста РСФСР Антонов-Овсеенко, развивая тезис о том, что классовая борьба внутри страны не завершилась, сказал, что еще "существуют классовые противоречия между рабочим классом и колхозным крестьянством, так как колхозы еще не являются вполне социалистической формой хозяйства" и что "колхозы лишь близки к социалистической форме хозяйства".
Бдительный секретарь рассмотрел в этом тезисе "троцкистский характер" и вынес этот вопрос на обсуждение парткома, где от В. А. Антонова-Овсеенко потребовали объяснений. Судя по записке, Владимир Александрович не дал "надлежащей большевистской развернутой критики этих ошибок" и не признал их "троцкистскими". Он пытался объяснить, что в своем выступлении сказал не о "классовых противоречиях" между рабочими и крестьянами, а просто о "противоречиях". Но секретарь продолжал "нажимать" на прокурора республики, в этом его поддержал присутствовавший на заседании парткома Н. В. Крыленко. Только тогда В. А. Антонов-Овсеенко признал, да и то с оговорками, что им допущена политическая ошибка.
Следующий вмененный ему "криминал" выглядел гораздо серьезнее. Спецколлегия краевого суда в марте 1936 года приговорила по части 2 статьи 109 и статье 58–10 УК РСФСР (контрреволюционная агитация) к 7 годам лишения свободы бывшего заведующего отделом агитации и пропаганды Балахинского РК ВКП(б) Сенаторова-Жирякова. Он обвинялся в том, что, читая лекции по истории партии на курсах сельских и городских пропагандистов и оглашая выдержки из так называемого завещания Ленина, извратил этот документ "в троцкистском контрреволюционном духе", сказав, что Ленин рекомендовал на пост Генерального секретаря ЦК ВКП(б) Зиновьева. Кроме того, Сенаторов-Жиряков в июне 1935 года на заводе "Труд" в разговоре с рабочим Озеровым о перебоях в снабжении хлебом якобы сказал, что бороться с подобными безобразиями надо путем забастовок. Кассационная инстанция Верховного суда РСФСР оставила приговор в отношении Сенаторова-Жирякова без изменений. Однако Антонов-Овсеенко с этим не согласился и опротестовал приговор в Президиум Верховного суда РСФСР. В своем протесте прокурор республики утверждал, что троцкистского толкования завещания Ленина со стороны Сенаторова-Жирякова материалами дела не установлено. Президиум Верховного суда РСФСР оказался не столь смелым, как прокурор, и отклонил протест.