Как указывал сам Богданов, в 1896 году он перешел от народничества к марксизму. Попытался объяснять политэкономию рабочим, но те мало что поняли. Тогда он сам засел за Маркса и написал свою первую большую работу — «Краткий курс экономической науки». В 1897 году книга (по словам автора, «изувеченная цензурой») вышла в свет под псевдонимом «А. Богданов». Под этим именем он стал известен в социал-демократических кругах.
В 1895 году Богданов поступил на медицинский факультет Императорского Харьковского университета (в столицах дорога к продолжению высшего образования была для него закрыта — после исключения он оказался в «черном списке»). Во время учебы (Богданов писал, что проводил в Харькове «часть времени») он тоже посещал тамошние социал-демократические кружки, В 1898 году выпустил свою первую философскую работу «Основные элементы исторического взгляда на природу». Написал он ее, «стремясь дать ответ на широкие запросы наших рабочих в смысле общего мировоззрения».
Осенью 1899 года Богданов окончил университет и получил диплом врача-психиатра. В этом же году в его жизни произошло еще одно важное событие — он женился. Его избранницей стала Наталья Корсак, судьба которой была тоже в какой-то мере характерной для того времени: дочь помещика, она стала фельдшером и акушеркой (она даже принимала роды у дочери Льва Толстого в Ясной Поляне) и работала в Туле в клинике доктора Александра Руднева — отца друга Богданова Владимира Базарова. Там, в Туле, Богданов и познакомился с Натальей. Она была на восемь лет старше, но эта разница в возрасте им не помешала. 1899 год стал вообще важной вехой в его биографии. Диплом, женитьба, и… новый арест. На этот раз его «взяли за пропаганду». Полгода Богданов просидел в тюрьме, затем его выслали в Калугу, а затем на три года в Вологду.
Богданов приехал в Вологду в конце 1901 года. Там он около полугода работал врачом в психиатрической больнице, много занимался самообразованием. Один из его товарищей по ссылке оставил его описание: «Среднего роста, широкоплечий, со светлыми волосами и русой бородой и усами. Физически довольно сильный, простой и невзыскательный в образе жизни и в одежде. Физиономия его, по его же определению, обыкновенного русского человека, приказчика, но громадный нависший лоб, придающий суровое выражение лицу, твердые очертания подбородка говорят об упорной воле, настойчивости и уме… Богданов был первым человеком, встреченным в моей жизни, который, нигде не находясь на службе, так упорно и систематически работал».
Богданов не курил (в среде революционеров это было редкостью), не пил и вел очень организованный образ жизни. Восемь часов в сутки он обязательно работал, не меньше времени — читал. Причем он мог прочитывать до 100 страниц в час. Еще о Богданове вспоминали, что он мог в уме быстро умножать многозначные числа и извлекать из них квадратные корни.
Постепенно в Вологде собрался такой состав ссыльных, что ее шутя начали называть «северными Афинами»: философ Николай Бердяев, Анатолий Луначарский, писатель Михаил Ремезов, знаменитый эсер-боевик, в будущем писатель, поэт и один из главных врагов советской власти Борис Савинков, член «Союза борьбы за освобождение рабочего класса», в который входил и молодой Ленин, впоследствии известный пушкинист Петр Щеголев и многие другие. Ничего удивительного, что при таком «ссыльном контингенте» в Вологде кипела бурная духовная жизнь. Ссыльные интеллектуалы готовили доклады («рефераты»), читали их и яростно спорили по каждому из них. Как вспоминал Богданов, сначала он в основном дискутировал с Бердяевым по вопросам философии, но потом, по его словам, «влияние Бердяева в колонии свелось на нет, а отношение к нему со стороны социал-демократов было вообще ироническое. Он перестал выступать и, до срока ссылки, воспользовавшись своими связями, уехал. Философские интересы в это время уже начали заметно тускнеть, завязалась политическая полемика в колонии с эсерами».
Бердяев в своей биографии «Самопознание» так вспоминал о Богданове: «А. Богданов был очень хороший человек, очень искренний и беззаветно преданный идее, но по типу своему совершенно мне чуждый. В то время меня уже считали «идеалистом», проникнутым метафизическими исканиями. Для А. Богданова это было совершенно ненормально. По первоначальной своей специальности он был психиатр. Он вначале часто ходил ко мне. Я заметил, что он мне систематически задает непонятные вопросы, как я себя чувствую по утрам, каков сон, какова моя реакция на то или иное и тому подобное. Выяснилось, что склонность к идеализму и метафизике он считает признаком начинающегося психического расстройства, и хотел определить, как это далеко у меня зашло».
В Вологде у Богданова появилось еще одно увлечение: он разглядывал в подзорную трубу звезды. За что и получил от своих «коллег» по ссылке еще одну кличку — «Астроном».