В Доме предварительного заключения Л. К. Мартенс содержался до конца декабря 1896 г. 24 декабря по состоянию здоровья он был освобожден под залог и уехал к матери в Славянск. 31 мая 1897 г. дознание о Мартенсе было закончено и препровождено прокурору Судебной палаты. Мартенс был доставлен под конвоем из Славянска в Петербург. 3 ноября 1897 г. дознание по делу о «преступном сообществе «Союз борьбы за освобождение рабочего класса»» было направлено Министерством юстиции в Министерство внутренних дел. Решено было подвергнуть Л. К. Мартенса тюремному заключению сроком на один год и выслать после отбытия наказания за границу как «неблагонадежного в политическом отношении иностранца» без права возвращения в Россию.
Осенью 1899 г. бывший студент 4-го курса Технологического института 24-летний Людвиг Мартенс был выслан из пределов России. Начался 20-летний период эмиграции.
Германское подданство, позволившее Л. К. Мартенсу избежать сибирской ссылки, не спасло его, однако, от «прелестей» прусской военщины. Сразу же после приезда в Германию его мобилизуют в армию и в течение двух лет — до 1901 г. — Л. К. Мартенс отбывает воинскую повинность. В 1901–1903 гг. он учится в политехническом институте в Шарлоттенбурге, а затем в качестве инженера поступает работать на завод. В 1904 г. Л. К. Мартенс помещает в одном из немецких технических журналов свою первую статью. Занимается он и изобретательством в области моторостроения. Однако попытка реализовать свое первое изобретение наталкивается на отсутствие средств, «Нет ни денег, ни кредита», — писал он по этому поводу своей сестре.
В эти годы среди русских эмигрантов, которым удавалось более или менее сносно устроить за границей свою личную жизнь, было немало таких, которые постепенно не только отрывались от русского революционного движения, но и вообще отходили от всякой политической деятельности. Но для Мартенса молодого революционера, работавшего в рядах ленинского «Союза борьбы за освобождение рабочего класса», выбор был сделан раз и навсегда. Для него не было другой жизни, кроме той, которая была связана с борьбой за счастье народа, борьбой за идеи социализма. 11 декабря 1902 г. он пишет своей сестре: «Великая плодотворная идея социализма до основания революционизирует умы и миросозерцание. Уже занимается заря великого будущего, и переживаемый нами момент представляет собой один из этапов борьбы за это будущее, который значительно приблизит нас к нему. Тебе ясна моя настоящая позиция, моя повторяющаяся исходная точка. Я счастлив, потому что доволен, а доволен потому, что пристал к недовольным».
Вступив в 1901 г. в Социал-демократическую партию Германии, Л. К. Мартенс не порывает связей и с русским революционным движением. Когда после II съезда партии в РСДРП происходит раскол, он безоговорочно примыкает к большевикам. И именно эта связь с большевистской партией приводит в конце концов к тому, что, преследуемый уже немецкой полицией, Мартенс вынужден был покинуть Германию. В годы первой русской революции по поручению В. И. Ленина и с помощью М. М. Литвинова и В. В. Воровского Мартенс организует отправку в Россию через Швецию и Финляндию взрывчатых веществ, предназначенных для боевых дружин. В 1906 г. в Гамбурге с этим грузом весом в 75 пудов Мартенс был задержан немецкой полицией. Только благодаря тому, что он дал подписку, что этот груз предназначается для одной из американских фирм и что он обязуется немедленно отправить его по назначению, Л. К. Мартенсу удалось избежать ареста. Однако оставаться в Германии после этого случая было уже невозможно.
В октябре 1906 г. при содействии Карла Либкнехта он уезжает в Англию. С большим трудом Л. К. Мартенс находит себе работу в качестве инженера-механика на одном из лондонских заводов. Одновременно, вступив в Лондонскую группу большевиков, он продолжает активно участвовать и в русском революционном движении.
В 1907 г. Мартенс присутствует на V съезде РСДРП. Позднее в своих воспоминаниях он писал: «Я встретил Владимира Ильича летом 1907 г. на съезде нашей партии в Лондоне, когда большевики одержали под руководством В. И. Ленина решительную победу над меньшевиками».
Характерно, что Департамент полиции и его агентура продолжали следить за деятельностью Л. К. Мартенса и за границей. Так, в докладе чиновника особых поручений из Парижа от 8 (21) февраля 1910 г. министру внутренних дел сообщалось: «…Имею честь представить Вашему превосходительству некоторые сведения о лицах, проживающих в Лондоне и примыкающих к социал-демократической партии: …Мартенс, инженер, родом из Курска, лет 33, среднего роста, крепкого сложения, волосы и небольшие усы светлые, изобретатель ручных пулеметов». И далее сообщался его точный адрес.