Мустафа Кемаль родился в квартале Ходжакасым оттоманского города Салоники (ныне Греция) в семье мелкого лесоторговца, бывшего таможенного служащего Али Рыза-эфенди и его жены Зюбейде-ханым. В 1893 году Мустафа поступил в подготовительную военную школу в Салониках Selânik Askerî Rüştiyesi, где учитель математики дал ему второе имя Кемаль («совершенство»). В 1896 году он был зачислен в военную школу (Manastır Askerî İdadisi) в городе Манастир (ныне Битола в современной Македонии), а в 1899 году поступил в Оттоманский военный колледж (Mekteb-i Harbiye-i Şahane) в Стамбуле. В 1902 году Кемаль стал слушателем Оттоманской академии генштаба (Erkân-ı Harbiye Mektebi) в Стамбуле, которую окончил в январе 1905 года. По окончании академии был арестован по обвинению в противозаконной критике абдулхамидовского режима и после нескольких месяцев под стражей был сослан в Дамаск, где в 1905 году вместе с доктором Мустафой-беем, который отбывал здесь ссылку за свои политические убеждения, создал революционную организацию «Ватан ве Хюррийет» («Родина и свобода»). Разъезжая по всему району дислокации 5-й армии, он создавал на местах ячейки организации. Полагая, что Шюкрю-паша, инспектор артиллерии 3-й армии в Салониках, сочувствует целям организации, Кемаль взял отпуск для лечения и отправился на родину, где также начал создавать секретные ячейки оппозиционеров. Едва избежав ареста, он вернулся в Сирию. Созданные им ячейки сыграли немаловажную роль в последующем революционном движении младотурок.
13 октября 1907 года по его просьбе и при содействии Шюкрю-паши Кемаль был переведен в Салоники в штаб 3-й армии. Официальное присоединение «Османского общества свободы» и через него «Родины и свободы» к комитету «Единение и прогресс» произошло 21 апреля 1907 года. Объединенная организация стала именоваться османское обществом «Единение и прогресс» («Османлы Иттихад ве теракки джемиети»). Комитет «Единение и прогресс» («Иттихад ве теракки») во главе с Талаатом был создан в Салониках с целью объединения противников режима в эмиграции и членов «Османского общества свободы». Кемаль присоединился к комитету «Единение и прогресс» 29 октября 1907 года, поклявшись на Коране и револьвере бороться против тирана-султана с целью восстановления конституции. Идеи Кемаля не полностью совпадали с идеями комитета «Единение и прогресс». Он был настроен более радикально, поскольку думал не только о восстановлении конституции, но и об упразднении султаната. Кроме того, он хотел коренным образом реорганизовать армию, что вызывало возражения со стороны некоторых членов «Единения и прогресса», занимавших в армии важные посты. Кемаль участвовал в подготовке и проведении Младотурецкой революции 1908 года, но вскоре временно отошел от политической деятельности.
В сентябре 1910 года в качестве турецкого представителя он присутствовал во Франции на маневрах в Пикардии, поскольку хорошо знал французский язык.
В 1911 году Кемаль начал служить в Стамбуле, в Генштабе вооружённых сил. В ходе итало-турецкой войны, начавшейся в 1911 году со штурма Триполи итальянцами, он вместе с группой офицеров был откомандирован в Ливию и сражался в районе Тобрука и Дерне. 22 декабря 1911 года Мустафа Кемаль одержал победу над итальянцами в сражении под Тобруком, а 6 марта 1912 года был назначен на пост командующего турецкими войсками в Дерне. В октябре 1912 года началась Первая Балканская война, в которой Кемаль принял участие, командуя подразделениями из Галлиполи и Болайыра. Он сыграл большую роль в деле отвоевания Дидимотихона (Диметоки) и Эдирне у болгар во время Второй Балканской войны.
В 1913 году Мустафа Кемаль был назначен военным атташе в Софии и в 1914 году стал подполковником. В Софии Кемаль служил до 1915 года, когда был направлен в Текирдаг для формирования 19-й дивизии. С ней он отличился в ходе Дарданелльской операции, в наиболее отчаянный момент сражений, утром 25 апреля 1915 года, в приказе дня для 57-го полка своей дивизии Кемаль написал: «Я не приказываю вам наступать, я приказываю вам умереть. Пока мы будем умирать, другие войска и командиры смогут прийти и встать на наши места». После Дарданелл Кемаль командовал войсками в Эдирне и Диярбакыре. 1 апреля 1916 года он был произведён в дивизионные генералы (генерал-лейтенанты) и назначен командующим 2-й армии. Под его командованием 2-я армия в начале августа 1916 года сумела занять Муш и Битлис на Кавказском фронте, что было одним из немногих успехов турок на этом театре военных действий.