Обращаясь непосредственно к истокам истории советской военной контрразведки следует отмстить, что побудительными причинами к ее образованию явилось создание в январе 1918 года Красной армии, нуждавшейся в защите от происков иностранных разведок и внутренней контрреволюции. 19 декабря 1918 года Бюро ЦК РКП (б) на своем заседании объединило в специальную службу органы военного контроля Реввоенсовета Республики с Чрезвычайными комиссиями в войсках, до этого параллельно занимавшихся контрразведывательной работой в частях и соединениях молодой Красной армии.
Вновь образованный аппарат получил наименование Особый отдел, а дату состоявшегося по этому поводу решения принято считать днем рождения советской военной контрразведки.
Сам объединительный процесс не назовешь спокойным и гладким. Между военными и чекистами имели место острые споры. Каждое ведомство стремилось сохранить за собой военную контрразведку как мощное средство управления и важнейший инструмент контроля над вооруженными силами. В споре победила Всероссийская ЧК.
Военная контрразведка, будучи меньшей величиной в общей системе контрразведывательной службы государства, а также в силу рамок своих полномочий, никогда статуса самостоятельного ведомства не имела. Всегда входила составной частью главным образом в систему ВЧК-НКГБ-МГБ-КГБ, иногда в НКВД-МВД и реже — в структуру Народного комиссариата обороны. В советские годы органы военной контрразведки шесть раз подвергались различной степени реорганизации. Хотя этим решениям сопутствовали важные перемены в международной, внутренней и военной жизни страны, они не всегда благоприятно сказывались на оперативно-разыскной деятельности военной контрразведки.
Реорганизация и переподчиненность органов военной контрразведки влекли за собой смену их наименований: с 1918 по 1941 год и в послевоенный период контрразведку в армии и на флоте представляли особые отделы ВЧК-НКВД-КГБ, а накануне и в годы Великой Отечественной войны третьи отделы и органы Смерш НКО.