Истоки гольцевской одержимости либеральной идеей восходят к годам его детства. Он был глубоко верующим ребенком. В гимназии писал стихи на библейские темы. Однажды во время посещения церкви двенадцатилетнему мальчику явился Спаситель и беседовал с ним. Об этом потрясшем его видении юный Гольцев доверительно сообщал своим товарищам. Гимназисты из уст в уста передавали волнующий таинственный слух. К концу гимназического курса от «некогда горячей и искренней религиозности» остался только «чистый деизм». А «лето между гимназией и университетом» прошло для Гольцева в мучительной борьбе между верой и безверием. Настойчивый поиск доказательств в защиту бессмертия души не увенчался успехом. Догматы христианства подверглись разрушительному сомнению: тому способствовала вся атмосфера 1860-х годов. Но потребность веры и жажда деятельного служения определенному идеалу сохранилась в душе Виктора Александровича на всю жизнь.
Новой страстью Гольцева – студента Московского университета (1868–1872) – стало участие в «тайном обществе, которое имело целью пересоздание мира в самом близком будущем». В результате он сумел основательно познакомиться с некоторыми политическими трактатами и произведениями «крупнейших социалистов». Среди русских мыслителей Гольцев особенно высоко ценил Белинского и Герцена, подчеркивая, что их идеи послужили основой его собственного миросозерцания.
Поклонение социальной идее вслед за полученным в детстве христианским воспитанием в судьбах русской интеллигенции не раз завершалось обращением к революционному действию. Но судьба Гольцева сложилась иначе…
В переписке университетских товарищей 1870-х годов, сохранившейся в гольцевском архиве, вспыхивает любопытный спор о выборе жизненного поприща, путей и средств реализации усвоенных в юности идеалов, поднимаются нравственно-политические вопросы, издавна волновавшие русскую интеллигенцию, сталкиваются альтернативные позиции, возникают неизбежные реминисценции. Гольцев был настроен тогда достаточно радикально, а его сверстник, однокашник по Московскому университету и оппонент, Николай Зверев придерживался более осторожных взглядов.
«…Нужно ли, чтобы „адепт идеи“ непременно голодал и страдал?»; «Что труднее – „сломать себя“ или же высказаться откровенно?»; «Не потому ли передовые идеи так медленно проникают в нашу жизнь, что их сторонники слишком часто одеваются в сердитые красные мантии?»; «Кто выше, скромный Милютин, „эманципатор и тайный советник“, или „популярный каторжник“ Чернышевский?»; «Что привлекательного в кафедре, если нельзя свободно высказаться даже на магистерском диспуте?»; «А разве Грановский и в более тяжелое время не справлялся с исполнением „великих, святых задач“ профессора?»; «Как обойти препятствия, заграждающие свободный путь к самостоятельному умственному труду в духе Белинского и Добролюбова?»…
По-разному сложатся и дальнейшие судьбы участников этого спора: Н.А. Зверев сделает блестящую служебную карьеру, займет должности профессора, товарища министра народного просвещения, сенатора, члена Государственного совета, а его университетский приятель Гольцев лишится кафедры и будет поставлен под гласный надзор полиции…
В конце 1875 года Гольцев был командирован за границу для подготовки к профессорскому званию. Из Парижа он обратился к одному из лидеров революционных народников Петру Лаврову с письмом, в котором, осудив насильственные методы политической борьбы, призвал революционеров вместе с либералами добиваться конституции для России. Письмо было опубликовано в эмигрантском журнале «Вперед» за подписью «Русский конституционалист». В 1878 году в Московском университете Гольцев защитил магистерскую диссертацию на тему «Государственное хозяйство во Франции XVII века», где доказывалась пагубность абсолютизма как формы государственного устройства. В том же году Гольцев, избранный доцентом Московского университета, не был утвержден в этой должности министром народного просвещения Д.А. Толстым.
На рубеже 1870-1880-х годов Гольцев выдвинулся в первые ряды либеральных общественных деятелей России нового поколения, сформировавшихся уже в обстановке больших преобразований и изменившихся условий пореформенного времени. Среди них – П.Г. Виноградов, В.Д. Дерюжинский, Н.А. Каблуков, Н.И. Кареев, М.М. Ковалевский, И.В. Лучицкий, С.А. Муромцев, И.И. Петрункевич, А.С. Посников, Ф.И. Родичев, В.Ю. Скалой, А.Ф. и С.Ф. Фортунатовы, А.И. Чупров, И.И. Янжул и др. Политическое настроение этого общественного круга один из его представителей – историк Н.И. Кареев – характеризовал в целом как «более либеральное, чем у старой профессуры; конституционализм, дополненный социальным реформаторством».