1 июля 1871 г. Витте был причислен чиновником к канцелярии Новороссийского и Бессарабского генерал-губернатора, а через два года назначен столоначальником. В управлении Одесской железной дороги, куда его определил на службу дядя, он на практике изучил железнодорожное дело, начав с самых низших ступеней, побывав в роли конторщика грузовой службы и даже помощника машиниста, но скоро, заняв должность начальника движения, превратился в крупного железнодорожного предпринимателя. В 1874 г. с упразднением Новороссийского и Бесарабского генерал-губернаторства Витте был «оставлен за штатом на общем основании», после чего состоял при Департаменте общих дел Министерства путей сообщения и в 1875 г. был произведен в титулярные советники. Однако в апреле 1877 г. он подал прошение об увольнении с государственной службы. После окончания русско-турецкой войны 1877–1878 гг. принадлежавшая казне Одесская дорога влилась в частное Общество Юго-Западных железных дорог, возглавлявшееся известным банкиром и железнодорожным дельцом И.С. Блиохом. Там Витте получил место начальника эксплуатационного отдела. Новое назначение потребовало переезда в Петербург.
В столице он прожил около двух лет. События 1 марта 1881 г., (убийство императора Александра II), оставившие заметный след в биографии Витте, застали его уже в Киеве.
Духовный мир молодого человека складывался под влиянием его дяди. Вдохновляемые князем Барятинским и шефом жандармов графом П.А. Шуваловым, Фадеев и его единомышленники в середине 1870-х годов выступили с программой преобразований, направленных против либеральных реформ 1860-х годов. Эту программу Фадеев развивал в книге «Русское общество в настоящем и будущем. Чем нам быть?» (СПб. 1874). Он обвинял Петра I в заимствовании западных идей, не прижившихся на русской почве. В русском дворянстве автор видел единственную силу («культурный слой»), способную противостоять наступлению нигилизма. Дворянство должно было стать полным хозяином и в системе местного управления, возглавив всесословную волость и взяв целиком в свои руки земство.
Участвовал ли Витте в политических дискуссиях середины 1870-х годов — неизвестно. Сохранились только сведения более позднего характера о его безусловном сочувствии программным сочинениям Фадеева. Нуждаются в проверке данные о том, что в те годы Витте выступал как публицист, печатая свои фельетоны в одесских газетах «Правда» и «Новороссийский телеграф» под псевдонимом «Зеленый попугай».
После 1 марта Витте живо включился в большую политическую игру, затеянную Фадеевым и его единомышленниками. Как только до Киева дошла весть о покушении на Александра II, Витте написал в столицу Фадееву и подал идею о создании дворянской конспиративной организации для охраны императора и борьбы с революционерами их же методами. Фадеев подхватил эту идею в Петербурге и с помощью Воронцова-Дашкова создал пресловутую «Святую дружину». В середине и марта 1881 г. в Петербурге, на Фонтанке, в особняке графа П. П. Шувалова, состоялось посвящение Витте в ее члены. Он был назначен главным правителем «Дружины» в киевском районе.
Сохранились донесения Витте Воронцову-Дашкову о положении в Киеве и на юге, свидетельствующие о том, что Витте ревностно относился к исполнению возложенных на него «Дружиной» обязанностей. По ее распоряжению он был направлен в Париж для организации покушения на известного революционера-народника Л.Н. Гартмана, участвовал в литературных предприятиях «Дружины» провокационного характера, в частности, — в составлении брошюры изданной (1882 г., Киев) под псевдонимом «Свободный мыслитель», содержавшей критику программы и деятельности «Народной воли» и предрекавшей ее гибель, а также в издании на деньги «Дружины» газеты «Вольное слово» (Женева, 1881–1883).
Уже в конце апреля 1881 г. Александр III встал на сторону врагов каких бы то ни было перемен в системе государственного управления, — таких, как М.Н. Катков и К.П. Победоносцев. Последовало смещение покровительствовавшего «Дружине» министра внутренних дел графа Н.П. Игнатьева. К весне 1882 г. Фадеев утратил свое влияние, а вскоре была ликвидирована и «Дружина». Покинутый бывшими единомышленниками, в том числе Воронцовым-Дашковым, он скончался в Одессе в конце 1883 года. Несмотря на политический крах своего кумира, Витте сохранил верность его идеалам, по крайней мере, до начала 1890-х годов.