В юношеские годы «детское религиозное мировоззрение рухнуло, подкопанное пробуждающейся мыслью»; его сменила «любовь, поклонение красоте природы». В гимназии города Новгородсеверского Черниговской губернии он впервые остро ощутил присущие многим «беспринципность, холодный эгоизм, грубость, бесчеловечность». По его признанию, лишь одно примиряло его с такой жизнью: «Ангельски чистый образ одной девочки, с которой даже не был знаком, с радостным и тихим чувством носил я в своей душе три года (от 12 до 15 лет) <…> Она была для меня идеальным образом, высшим духовным существом».
Тогда же он стал много читать, заниматься самообразованием. Это «внесло в нравственный мир недостающую школе жизненную струю, возбудило новые мысли, открыло новые горизонты». Вместе с несколькими товарищами на собственные деньги они организовали домашнюю библиотеку в 150 томов по всем отраслям знания. В августе 1875 года отправился в Петербург и поступил в Технологический институт. Ему категорически не понравилась царившая там строгая дисциплина: ежедневные проверки посещения занятий, через день обязательные репетиции (ответы на вопросы по прочитанным лекциям) через день. Он считал, что это унижает человеческое достоинство.
Его исключили из института за нарушение этих правил. Он не подал прошение о восстановлении: «Зачем мне были предметы института, когда сам он не признавал во мне человека и считал насилие и принуждение лучшим средством высшего образования». Его выслали из Петербурга. И тогда борьба с существующей властью стала его главной целью.
В Киеве он познакомился с членами революционных групп и стал убежденным противником самодержавия. В августе 1876 года вернулся в Петербург, где установил связь с группой М. А. Натансона, и вскоре вошел в тайную организацию «Земля и воля». Весной следующего года отправился в Саратовскую губернию, чтобы познакомиться со старообрядцами и со временем вовлечь их в революционное движение. Религиозные раскольники ему, подобно многим землевольцам, представлялись «тайником народно-общинного духа».
Он устроился учителем грамматики в селе Синенькино, где сблизился со старообрядцами. По его словам, «пришлось взять себя в ежовые рукавицы, ломать себя с ног до головы», выполняя необходимые обряды и обычаи, произнося молитвы и соблюдая посты. Но это происходило «даже с некоторою приятностью, а главное, с громадной пользой для развития воли и уменья владеть собой».
За несколько месяцев он стал своим среди раскольников (было ему тогда 22 года). Он отдавал всю свою энергию делу, жертвовал жизненными удобствами и материальными благами во имя революции.
Весной 1878 года Михайлов вернулся в Петербург, желая образовать новую группу для работы среди старообрядцев. Его ввели в руководящую группу «Земли и воли». Обладая всеми необходимыми качествами для конспиративной работы, он организовал ее профессионально.
Он принял непосредственное участие в подготовке покушений на начальника III отделения А. Р. Дрентельна и — А. К. Соловьева на Александра II (2 апреля 1879 года). Михайлов устроил Н. В. Клеточникова переписчиком в агентурную часть III отделения и почти два года получал от него материалы о планах тайной полиции.
С момента образования «Народной воли» в августе 1879 года и до своего ареста в ноябре следующего года А. Д. Михайлов был одним из ее главных руководителей. По словам Желябова, Михайлов заботился о своей организации «с такой же страстной, внимательной до мелочи преданностью, с какой другие заботятся о счастье любимой женщины». Как средство борьбы Михайлов делал ставку на террор, предлагая «стрелять в самый центр».
Самым близким для него человеком среди членов Исполкома «Народной воли» была А. П. Корба, с которой он познакомился в 1879 году. Он писал ей из тюрьмы: «Я не любил ни одной женщины, ни одного человека, как тебя». Под маской внешней холодности, которую отмечали все знавшие его, скрывались сильный темперамент и романтичная преданность делу революции.
28 ноября 1880 года А. Д. Михайлова арестовали в Петербурге при нелепых для конспиратора обстоятельствах: пошел в одну из фотомастерских получать карточки казненных народовольцев А. А. Квятковского и А. К. Преснякова.
Понимая, что там может быть полицейская засада, он понадеялся на свое умение избегать слежки и ареста, которое до этого времени не подводило его…
После заточения в Трубецком бастионе Петропавловской крепости его судили в феврале 1882 года. Главным пунктом обвинения являлось активное участие в подготовке двух попыток цареубийства, что стало известно властям благодаря показаниям Г. Д. Гольденберга.