В январе 1913 года скончался отец Витгенштейна. По возвращении в Вену в июле 1914 года Витгенштейн попросил Людвига фон Фикера – издателя литературного журнала из Инсбрука – передать круглую сумму денег нуждающимся деятелям искусства. В 1910-е года фон Фикер приобрел прекрасную репутацию, став представителем немецкоязычного авангарда. Он распределил большую часть из 100 000 крон, доверенных ему Витгенштейном, между Райнером Марией Рильке, Георгом Траклем и Карлом Даллаго.
Застигнутый войной в Вене, 7 августа Витгенштейн записался добровольцем в австрийскую армию (годом ранее он был признан негодным к военной службе). До начала ноября 1914 года он плавал по Висле вдали от зоны боевых действий на корабле «Гоплана», захваченном у русской армии. Именно в эти месяцы, проведенные среди солдат, которые – как и его товарищи по училищу в Линце одиннадцатью годами ранее – вызывали у него глубокую неприязнь, ему довелось прочитать «Краткое изложение Евангелия» Льва Толстого – единственную книгу, которую он нашел в книжном магазине во время стоянки судна. Благодаря этому произведению, произведшему на него глубокое впечатление, он смог преодолеть упадок духа.
В это же время его брат Пауль в результате ранения потерял правую руку. Это событие чуть не поставило крест на его карьере пианиста. Однако с помощью упражнений ему удалось после войны продолжить выступать, играя лишь одной левой рукой, и преподавать. Именно для него Равель сочинил «Концерт для левой руки».
В ноябре 1914 года Витгенштейн находился в Кракове. Он пробыл там вплоть до лета 1915 года, работая в артиллерийской мастерской, в которой оказался востребованным его инженерный талант. В августе 1915 года он пробыл три недели в Вене, а затем был переведен в Сокаль, на север от Лемберга, где провел осень и зиму 1915–1916 годов.
По его просьбе в марте 1916 года он был в конце концов направлен в часть, ведшую бои на Русском фронте. В марте и апреле практически не наблюдалось активных сражений, но все изменилось в июне с началом Брусиловского прорыва обороны австро-германской армии. Витгенштейн проявил завидное мужество в бою: его представили к награде, а затем произвели в капралы. Когда в конце августа наступление русских войск замедлилось, его отправили в штаб полка в Ольмюц для прохождения обучения в офицерской школе. Эти месяцы яростных сражений и ежедневного столкновения со смертью, безусловно, поменяли ход его мыслей: витгенштейновские дневники свидетельствуют о том, что именно тогда он наметил основные линии содержащихся в конце «Трактата» рассуждений о смысле мира, который, по его мнению, должен находиться вне мира.
Несколько осенних месяцев 1916 года, проведенных Витгенштейном в Ольмюце, были довольно счастливыми: он познакомился с Паулем Энгельманом, молодым архитектором, учеником Адальфа Лооса, вместе с которым несколькими годами позже Витгенштейн спроектировал дом для своей сестры. Эта встреча позволила ему ненадолго вырваться из военной среды.
1917 год Витгенштейн встретил на Русском фронте, где зимой установилось относительное затишье после Февральской революции в России, однако в июле, когда Керенский захотел возобновить военные действия, боевая активность стала возрастать. В ходе победоносного контрнаступления центральных держав в августе 1917 года Витгенштейн добрался до города Черновцы, расположенного на территории современной Украины. Его полк простоял там до подписания Брест-Литовского мирного договора, то есть до марта 1918 года. Витгенштейн вновь был награжден за отвагу, проявленную при наступлении Керенского.
Воспользовавшись отсутствием военных действий, той зимой Витгенштейн закончил первую редакцию того, что несколькими месяцами позднее станет «Logische Philosophische Abhandung» – работой, более известной под латинским названием «Tractatus Logico-Philosophicus», которое для издания на английском языке предложил в Кембридже Мур, друг Рассела и Витгенштейна.
Отправленный на Итальянский фронт в марте 1918 года, Витгенштейн участвовал в неудачном наступлении австрийской армии в июне, где в очередной раз отличился храбростью. После июльского отступления австрийцев он получил долгосрочное увольнение, которое провел у своего дяди Пауля. Именно в это время Витгенштейн поставил финальную точку в своем трактате. В сентябре он приступил к поискам издателя, но то и дело сталкивался с нерешительностью и отказами, которые переживал очень тяжело. Наконец в 1921 году вышло первое издание его работы на немецком языке, где содержалось много неточностей, в отличие от издания на английском языке, появившемся в 1922 году.