После убийства народовольцами Александра II у Попова осложнились отношения с новгородским губернатором, которому давно не нравился демократизм председателя губернской управы. В 1882 году из-за «административного воздействия» Попов уходит с должности председателя Новгородской губернской земской управы. Он переезжает в имение, полученное в наследство после смерти его тетки Е.А. Страховой, – в село Воробьево с прилегающими к нему селом Соболево и деревней Кузнецово Краснинского уезда Смоленской губернии. Отдавая дань уважения Попову, новгородское земство в 1895 году учредило в женской гимназии стипендию его имени, а череповецкое постановило присвоить имя Попова одной из школ и поместило его портрет в управе.
На Смоленщине до 1896 года за А.Н. Поповым сохранялся негласный надзор полиции, что не помешало ему продолжать активную земскую деятельность: в 1885-м его избирают в гласные краснинского уездного собрания и смоленского губернского собрания, где он быстро становится одним из самых активных и уважаемых членов. Смоленское земство не относилось к числу передовых, отличаясь инертностью, «земской мертвечиной», игнорированием народных нужд. Попов и его единомышленники пытались по мере сил изменить ситуацию. В 1893 году у него даже была возможность стать во главе смоленской губернской земской управы – он получил большинство по избирательным запискам. Однако Попов не видел в губернии подходящей опоры для широкой и плодотворной работы и предпочел остаться в положении оппозиции. В этом качестве он, по словам Б.Б. Веселовского, «сыграл в земстве видную роль благодаря широте своих взглядов, большому личному авторитету и детальному знакомству с практикой земского дела». Он выступил инициатором создания санитарного и агрономического бюро, работал в комиссии по народному образованию, добился восстановления добровольного страхования в городах, субсидирования уездных школ и библиотек, на протяжении двух сроков возглавлял ревизионную комиссию губернского собрания.
В 1901 году А.Н. Попова выбирают председателем краснинской уездной земской управы на очередные три года. Приоритетным направлением его работы оставались культура и просвещение. Попов полагал, что если русскому мужику дать образование, приобщить его к передовой культуре, то изменятся и условия его жизни, и сама жизнь. По инициативе Попова земское собрание ходатайствовало о том, чтобы преподавание в начальных школах грамматики велось не в ущерб другим предметам. В собственном имении он создал ремесленную школу, народный театр, читальню, образцовый скотный двор, знаменитый в округе сад; способствовал распространению культуры садоводства и скотоводства среди окрестных крестьян. В его имении около восьми лет прожил Н.В. Шелгунов, написавший здесь три цикла очерков. Некоторое время жила там и известная писательница и общественная деятельница М.К. Цебрикова.
С возникновением Конституционно-демократической партии в годы первой российской революции А.Н. Попов вступает в ее ряды, видя в партийной деятельности продолжение своего общественного служения. Кадеты считали себя партией реальной политики в том смысле, что пути к осуществлению своих идеалов они намечали на основании «строгого учета реальных жизненных условий. Идеалы партии народной свободы широки и вечны. Эти идеалы – свобода и социальная справедливость». В то же время кадеты не стремились достичь поставленных целей любым путем, полагая, что способы и приемы политической борьбы за правовое государство не только не могут противоречить идеалам свободы и справедливости, но и сами по себе должны воспитывать граждан в духе этих начал. Отсюда – важнейший тезис кадетов: нельзя насаждать свободу посредством произвола. Из этого положения вытекало отрицательное отношение партии к насильственным «якобинским» приемам, которые широко использовали крайние фланги политического спектра. По словам А.А. Кизеветтера, из этого положения вытекала вся политическая программа «партии народной свободы», сводящаяся к установлению таких политических учреждений, которые обеспечивали бы осуществление «правомерного народовластия». Подобный подход полностью соответствовал взглядам А.Н. Попова, стремившегося к установлению народовластия на земском уровне. Недаром на V съезде партии в октябре 1906 года он говорил о ней: «У нас решают дело совесть и ум».
В апреле 1906 года А.Н. Попова избирают депутатом I Государственной думы от общего собрания выборщиков Смоленского губернского избирательного собрания как кандидата от Конституционно-демократической партии. В Думе он занимал левые позиции в кадетской фракции, подписал «проект 42-х» по аграрному вопросу и Выборгское воззвание с протестом против роспуска Думы, за что был приговорен к трем месяцам тюрьмы и лишен избирательных прав.