Однако другие руководящие товарищи деятельность Семёнова в качестве военного советника оценили иначе. После возвращения из Китая его перевели в центральный аппарат Разведупра РККА и вскоре назначили на должность помощника начальника 2-го (агентурного) отдела Б. Б. Бортновского. В Управлении он проработал до мая 1929 года. В апреле 1929 года состоялась XVI партконференция, на которой было принято решение о второй чистке партии. Первая состоялась в 1921 году, но тогда Семёнов под неё не попал. Теперь же, поскольку он был замечен в числе активных сторонников правой оппозиции, партячейка Разведупра исключила его из рядов ВКП(б). В мае его уволили. Несколько месяцев Семёнов вёл непрерывную борьбу за восстановление в партии, безуспешно апеллируя в районную контрольную комиссию, во Фрунзенский райком и, наконец, к парттройке МКК ВКП(б). Только эта последняя инстанция, учтя его прежние заслуги и выслушав 5 сентября 1929 обязательство «в практической работе проводить линию партии», приняла решение ограничиться строгим выговором с предупреждением.
Разведка, равно как и другая серьезная работа, теперь для Семенова была недоступна. И тогда он, в поисках дела, где мог в полной мере проявить себя, снова нашел себе «горячую точку»: пошёл в ЦК и попросился на колхозную работу. Не он один сделал этот выбор — призыв партийцев на колхозную работу насчитывал 25 тысяч человек. По направлению Колхозцентра он попал в Хопёрский округ Нижне-Волжского края, где был назначен председателем крупного колхоза «Краснознаменец», состоявшего примерно из тысячи хозяйств и располагавшего 24 тысячами гектаров земли.
Осень 1929-го была временем начала сплошной коллективизации. Колхоз «Краснознаменец» был уже собран. В декабре Сталин объявил о конце НЭПа и переходе к политике «ликвидации кулачества как класса». Всю зиму активисты колхозного строительства изо всех сил ликвидировали кулачество, а кулачество, как могло, ликвидировало активистов и сельское хозяйство как таковое. К весне стало ясно, что дело движется к полной катастрофе сельского хозяйства, и 2 марта 1930 года в «Правде» была опубликована статья Сталина «Головокружение от успехов», где резко критиковались «перегибы на местах». На партконференции Хопёрского округа Семенов выступил с критикой политики партии в области коллективизации, но, развивая выводы Сталина, зашёл слишком далеко. Его выступление было вновь квалифицировано как правый уклон, после чего, к лету, Семёнова сняли с председательской должности. 25 ноября того же года Михайловская районная контрольная комиссия исключила его из партии за правооппортунистические взгляды, но уже через 5 дней (! ) ЦКК ВКП(б) восстановила его в рядах большевиков.
Начинался «великий перелом». Троцкого уже выслали из страны, а Бухарина уволили с поста редактора «Правды» и вывели из состава Политбюро. Не повезло и всем их друзьям, в том числе и Семенову. Одно время он работал начальником строительства Болшевского механического и чугунолитейного завода под Москвой, затем начальником авторемонтных мастерских ВОГФа (Всесоюзного объединения гражданского воздушного флота, которым до своей гибели в авиакатострофе в 1933 г . руководил бывший начальник Семенова по Главэлектро Гольцман). По словам биографа Семенова С. В. Журавлева, «отовсюду его „вычищали“ — слишком богатая биография вкупе с разрисованным выговорами партийной учетной карточкой рождала в коллективе настороженное отношение». После того, как по инициативе секретаря Краснопресненского райкома партии Никиты Сергеевича Хрущёва Семёнова уволили из ВОГФа, он попросился на прежнее место в Главэлектро. Однако и оттуда вскоре был уволен — всплыла работа под начальством Троцкого в Главэлектро и рекомендации троцкистов Крестинского и Серебрякова, данные ему для вступления в партию.
В 1933 году Семёнов покидает столицу и уезжает в Ленинград, на должность начальника отдела рабочего капстроительства машиностроительного завода им. Ворошилова. Здесь к нему отнеслись помягче. В сентябре 1933 года Семёнов успешно проходит очередную партийную чистку, хотя и со скрипом — товарищи по партии задали ему 52 вопроса!
В Ленинграде ему удаётся спокойно проработать полтора года, до 1 декабря 1934 года, когда первого секретаря Ленинградского обкома С. М. Кирова убили в Смольном прямо у дверей кабинета. Одним из
следствий убийства стала чистка всей ленинградской парторганизации. 1 февраля 1935 года заводской партком в третий раз исключает Семёнова из рядов ВКП(б). Опальный коммунист снова берётся за привычное дело — подаёт апелляцию и 22 февраля 1935 года на заседании бюро Володарского райкома Семёнова восстанавливают в партии.