Подготовку к проведению военных реформ Селим начал сразу после окончания военных действий, ещё до подписания мирного договора с Россией. В то время главными частями турецкой армии были конное ополчение и янычары. О чрезвычайно низких боевых качествах как тех, так и других было известно всем. Никто не желал выполнять своих ленных обязанностей, так что султанам лишь с огромным трудом удавалось собирать своё ополчение. Что касается янычарского корпуса, то он уже давно из опоры султанской власти превратился в очаг смут и мятежей. Однако заменить их было нечем. Создать регулярные части в Турции, где никогда не было ни всеобщей воинской повинности, ни рекрутской системы, было очень трудно. Тем не менее в 1793 году Селим приступил к формированию нового войска. Чтобы не раздражать янычар, его формально включили в состав дворцовой охраны и назвали «корпусом стрелков-бостанджи». Численность его для начала была установлена в 12 тысяч человек. На офицерские должности приглашались инструкторы-иностранцы из Франции, Англии и Швеции. В военно-инженерном и морском училищах под руководством европейцев-преподавателей началось обучение национальных кадров — будущих офицеров и инженеров. Несмотря на сравнительно высокое жалованье, охотников служить в регулярных частях оказалось немного. Установленная численность корпуса — 12 тысяч — была достигнута только в 1804 году.
Параллельно шла реорганизация других войсковых подразделений. Артиллерийские части стали получать орудия нового образца. Были модернизированы старые пушечный и пороховой завод, но работали они плохо. Много сил было потрачено на воссоздание боевого флота, который бы мог отвечать современным требованиям. Приглашённые из Швеции и Франции инженеры-кораблестроители восстановили 15 верфей и приступили к выпуску современных судов. За несколько лет удалось построить 45 кораблей, а к концу царствования Селима турецкий флот насчитывал 100 кораблей, в том числе более 40 линейных и фрегатов. Среди моряков вводилась строгая дисциплина, а для офицеров устраивались экзамены на предмет знания морского дела. Однако сами турки неохотно шли на морскую службу. Приходилось набирать матросов среди других народов, прежде всего греков. Одновременно Селим пытался улучшить состояние старой армии и внедрить в ней методы европейской военной подготовки, однако ощутимых успехов не добился. Султану и его единомышленникам всё время приходилось с огромным трудом преодолевать традиционную предубеждённость против всего европейского.
Между тем нужда в новой боеспособной армии становилась всё более ощутимой. Всё царствование Селима прошло в постоянных внешних и внутренних войнах. Целостность империи постоянно находилась под угрозой. В 1798 году началась война с Францией. Французский корпус во главе с генералом Бонапартом захватил Египет. Правда при попытке овладеть Сирией французы потерпели поражение, а вскоре из-за английской блокады и утери связи с Францией их положение стало критическим. В июне 1802 года остатки французской армии, которой руководил в то время генерал Клебер, сложили оружие. Но едва окончилась франко-турецкая война, начались внутренние смуты. В 1804 году вспыхнуло восстание в Белградском пашалыке, во главе которого встал вожак гайдуков Кара-Георгий. Весной повстанцы захватили многие города и осадили Белград, где засели дайны янычар. В 1805 и 1806 годах против Кара-Георгия безуспешно сражалась 70-тысячная армия пашей Боснии и Скутар. Подавить восстание не удалось. В декабре 1806 года сербы выбили янычар из Белграда и овладели всей страной. Одновременно весной 1805 года власть турок была свергнута в Египте, где утвердился албанский полководец Мухаммад Али. (Селим вынужден был признать его египетским пашой, хотя фактически с тех пор Египет сделался независимым государством.) В Аравии успешную войну против турок развернули ваххабиты Неджда. В довершение несчастий в 1806 году началась новая русско-турецкая война.
В этих условиях Селим сделал последнюю попытку увеличить численность своей армии. Игнорируя старые турецкие традиции, он издал в марте 1805 года указ о начале рекрутского набора в городах и деревнях Румелии. Призыву в армию подлежали физически крепкие молодые люди в возрасте 20–25 лет, включая и янычар. Но первая же попытка произвести набор в небольшом городке Текирдаг закончилась мятежом. Селиму пришлось уступить и приостановить действие указа. Весной 1806 года, стянув в Румелию большие силы «новых войск», султан попробовал вновь произвести набор. Однако янычары, поддержанные местным населением, вступили в бой с реорганизованными на европейский манер частями. Командовавший ими Абдуррахман-паша не смог даже пробиться к Эдирне и был вынужден повернуть назад. Селим опять уступил и отозвал Абдуррахман-пашу в Стамбул.