В марте 1866 года Арсеньев подал прошение о зачислении в адвокатуру, а в апреле был утвержден в числе первых в России 27 присяжных поверенных (вместе со Стасовым, Спасовичем и др.). По его словам, адвокатура с момента своего учреждения была одним из «ферментов», противодействовавших застою в общественной жизни. Объясняя это явление, Арсеньев обращал внимание на политический «подтекст» суда присяжных и адвокатуры в глазах «образованного меньшинства», которому было хорошо известно, что «суд присяжных входил в состав оппозиционных программ недавнего общеевропейского движения, что из среды адвокатов вышли многие борцы за политическую свободу». Вместе с тем, замечал Арсеньев, «не один только политический ореол привлекал тогда к адвокатуре прогрессивную часть русского общества; для нее было ясно значение представительства в гражданском, защиты – в уголовном процессе, ясна невозможность правильно организованного суда без правильно организованной адвокатуры».
В 1867–1874 годах Арсеньев возглавлял Совет присяжных поверенных округа Петербургской судебной палаты. Первым обобщением результатов корпоративной деятельности столичных присяжных поверенных стала его книга «Заметки о русской адвокатуре» (СПб., 1875). В ней впервые в русской юридической литературе были разработаны приемы адвокатской техники и правила адвокатской этики. Добиваясь «единства слова и дела», Арсеньев считал необходимым допускать к адвокатской практике только специалистов с безукоризненной репутацией. Его давний коллега и единомышленник А.Ф. Кони вспоминал, что за время пребывания Арсеньева в составе Совета присяжных поверенных «по нравственным соображениям было отказано в приеме в присяжные поверенные 24 лицам; но и по отношению к уже принятым в сословие Совет высказал, что… если впоследствии откроется что-либо, бывшее не известным Совету и возбуждающее основательное сомнение в добросовестности принятого и в правильном понимании им обязанностей своего звания, то на Совете лежит долг удалить такое лицо из среды, с которою он нравственно не может иметь ничего общего». Сам Арсеньев приобрел известность не только как один из лучших судебных ораторов, но и как юрист с безупречной репутацией. Современники отмечали, что «самый блестящий гонорарий» не мог побудить его взяться за дело «нечистое».
Книга Арсеньева стала настольной для каждого адвоката, своего рода «катехизисом русской адвокатуры» (Л.Д. Ляховецкий), «драгоценным материалом» (А.Ф. Кони) для научных трудов, посвященных изучению основ деятельности русской адвокатуры. Среди других его крупных работ – первые руководства для практических судебных деятелей, вышедшие в пореформенный период. Это – «Предание суду и дальнейший ход уголовного дела до судебного следствия» (СПб., 1870) и «Судебное следствие» (СПб., 1871). Их содержание во многом определялось обширной и насыщенной адвокатской практикой Арсеньева по гражданским, уголовным, политическим делам. Своим долгом он считал выступления в суде в защиту печати, в результате которых ему удалось добиться оправдательных приговоров по делам А.С. Суворина (август 1866 года), А.Н. Пыпина и Ю.Г. Жуковского (август 1866 года), Ф.Ф. Павленкова (июнь 1868 года).
В последний раз Арсеньев выступил в суде осенью 1884 года, успешно защитив интересы петербуржцев в тяжбе городских властей с Обществом водопроводов, прежде отказывавшимся устанавливать дорогостоящие водоочистительные фильтры. Однако гораздо раньше, еще в 1874 году, он фактически завершил адвокатскую деятельность, так как, по его словам, она «слишком располагает к некоторому формализму, т. е. смешению правоты по закону с правотой в высшем смысле слова». Тем не менее до конца своих дней Арсеньев выступал в защиту адвокатуры и в целом принципов судебной реформы Александра II.
В 1874 году состоялось и возвращение Арсеньева на государственную службу: на этот раз – в качестве товарища обер-прокурора Гражданского кассационного департамента Сената. В 1880 году он был назначен членом консультации при Министерстве юстиции. Знаменательным событием в его жизни стала беседа в декабре 1880 года с М.Т. Лорис-Меликовым. Глубокое впечатление на Арсеньева тогда произвели «намеки» министра внутренних дел на «сознанную им необходимость финансовых и хозяйственных реформ в пользу народа и большей свободы для всего общества».