Спустя год, выступая в земском собрании по тому же вопросу, Кузьмин-Караваев несколько смягчил свою позицию. На этот раз его возражения против мелкой земской единицы сводились главным образом к опасению, что заботы о ее устройстве могут оттеснить на задний план другие важные проблемы, привести к тому, что «общественная мысль успокоится и невольно остановится на том, что отныне земская деятельность может развиваться беспрепятственно и крестьянская жизнь будет идти лучше». Однако, по словам К.К. Арсеньева, «не в таких розовых мечтах следует искать руководящую мысль защитников мелкой земской единицы». Выражая мнение членов редакции «Вестника Европы», он, в свою очередь, заявлял, что «они вовсе не придают этой идее значения панацеи, вовсе не ожидают от нее одной обновления сельской жизни; они видят в ней только составную часть крупного дела, но часть настолько важную, что
Несмотря на особую позицию по ряду вопросов, Кузьмин-Караваев стал одним из лидеров земско-либерального движения начала XX века. В январе 1902 года вместе с другими «староземцами» он выступил на страницах журнала «Освобождение» с заявлением о приверженности тактике исключительно легальной деятельности: «Как раньше, так и теперь мы остались противниками всякого насилия, откуда бы оно ни исходило, сверху или снизу. Поэтому мы намерены в земстве и через земство действовать путем распространения и уяснения наших идей и организации сплоченной партии, стремящейся к осуществлению этих идей, будучи убеждены, что ясное сознание и твердо выраженное требование общественного мнения есть такая сила, с которой принуждено будет считаться и правительство». В условиях последующего нарастания революции Кузьмин-Караваев, продолжая обличать административный произвол, вместе с тем осуждал забастовки и вооруженные восстания. По его убеждению, эти средства борьбы в условиях подавляющего военного превосходства правительства ведут лишь к бессмысленным жертвам среди населения, развязывают руки сторонникам правительственного террора.
Член Союза земцев-конституционалистов, Кузьмин-Караваев в 1904–1905 годах занял влиятельное положение на частных совещаниях и земских съездах, солидаризируясь с их конституционным крылом. Сторонник введения в России «ограниченной монархии», он приветствовал издание Высочайшего рескрипта 18 февраля 1905 года, предписывавшего министру внутренних дел А.Г. Булыгину приступить к разработке закона о созыве выборного представительного учреждения, наделенного законосовещательными правами. Ведя активную полемику с защитниками идеи Учредительного собрания и установления в России республиканской формы правления, Кузьмин-Караваев подготовил собственный проект создания Государственной думы.