22 ноября 1861 г. Михаил Скобелев поступает на военную службу в Кавалергардский полк. После сдачи экзамена Михаил Скобелев 8 сентября 1862 г. был произведен в портупей-юнкера, а 31 марта 1863 г. – в корнеты. В феврале 1864 г. сопровождает в качестве ординарца генерал-адъютанта графа Баранова, командированного в Варшаву для обнародования Манифеста об освобождении крестьян и о наделении их землей. Скобелев просит о переводе его в лейб-гвардейский Гродненский гусарский полк, который проводил военные действия против польских мятежников, и 19 марта 1864 г. был переведен. Еще до этого Михаил Скобелев провел отпуск в качестве добровольца в одном из полков, преследовавших отряд Шпака.
С 31 марта Скобелев в отряде подполковника Занкисова участвует в подавлении восстания. За уничтожение отряда Шемиота в Радковицком лесу Скобелев награжден орденом Св. Анны IV степени «За храбрость». В 1864 г. отправляется в отпуск за границу посмотреть театр военных действий датчан против немцев.
30 августа 1864 г. Скобелев произведен в поручики.
Осенью 1866 г. поступает в Николаевскую академию Генерального штаба. По окончании курса Академии в 1868 г. Скобелев становится 13-м из 26 офицеров, причисленных к Генеральному штабу. У Скобелева были неблестящие успехи по военной статистике и съемке, особенно по геодезии, но это исправлялось тем, что по предметам военного искусства Скобелев был вторым, а по военной истории – первым во всем выпуске, а также был в числе первых по иностранным (знал 8 языков, особенно хорошо говорил по-французски) и русскому языку, по политической истории и многим другим предметам.
Михаил Дмитриевич Скобелев произведен в штабс-ротмистры и в ноябре 1868 г. назначен в Туркестанский округ. На место службы, в Ташкент, Скобелев прибыл в начале 1869 г. и сначала состоял в Штабе округа. Михаил Скобелев изучал местные способы ведения боя, также производил разведки и участвовал в мелких делах на бухарской границе, причем выказал личную храбрость.
В конце 1870 г. Михаил командирован в распоряжение главнокомандующего Кавказской армией, а в марте 1871 г. отправлен в Красноводский отряд, в котором командовал кавалерией. Скобелев получил важное задание: он с отрядом должен был произвести разведку путей на Хиву. Произвел разведку пути к колодцу Сарыкамыш, причем прошел по сложной дороге, при недостатке воды и палящей жаре, от Муллакари до Узункую, 437 км (410 верст) в 9 дней и обратно, до Кум-Себшен, 134 км (126 верст) в 16,5 часов, со средней скоростью 48 км (45 верст) в день; при нем находилось только три казака и три туркмена.
Скобелев представил подробное описание маршрута и отходящих от колодцев дорогах. Однако Скобелев самовольно просмотрел план предстоящей операции против Хивы, за что уволен в 11-месячный отпуск летом 1871 г. с отчислением его в полк. Однако в апреле 1872 г. снова причислен к Главному штабу «для письменных занятий». Участвовал в подготовке полевой поездки офицеров Штаба и Петербургского военного округа в Ковенскую и Курляндскую губернии, а затем сам принял в ней участие, после чего 5 июня переведен в Генеральный штаб капитаном с назначением старшим адъютантом Штаба 22-й пехотной дивизии, в Новгород, а уже 30 августа 1872 г. назначен в подполковники с назначением штаб-офицером для поручений при Штабе Московского военного округа. В Москве пробыл недолго и вскоре был прикомандирован к 74-му пехотному Ставропольскому полку для командования батальоном. Требования службы там он выполнял исправно. С подчиненными и начальством Скобелев установил хорошие отношения.
Весной 1873 г. Скобелев принимает участие в Хивинском походе в качестве офицера Генерального штаба при Мангишлакском отряде полковника Ломакина. Хива была целью для российских отрядов, выдвигавшихся с разных точек: Туркестанского, Красноводского, Мангишлакского и Оренбургского отрядов. Путь Мангишлакского отряда хоть и не был самым длинным, но все же сопряжен с трудностями, которые увеличивались вследствие нехватки верблюдов (всего 1500 верблюдов на 2140 человек) и воды (до полведра на человека). В эшелоне Скобелева пришлось навьючить всех строевых лошадей, так как верблюды не могли поднять все, что предполагалось на них везти. Вышли 16 апреля. Скобелев, как и другие офицеры, шел пешком.
При прохождении отрезка от озера Кауды до колодца Сенек (70 верст) на половине пути кончилась вода. 18 апреля достигли колодца. Скобелев показал себя в трудной ситуации умелым командиром и организатором и при выступлении 20 апреля из Биш-акты уже командовал передовым эшелоном (2, позже 3 роты, 25–30 казаков, 2 орудия и команда саперов). Скобелев поддерживал в своем эшелоне идеальный порядок и в то же время заботился о нуждах солдат. Войска прошли 200 верст (210 км) от Бишакты до Ильтедже довольно легко и прибыли в Ительдже к 30 апреля.