Рейнхард Гелен родился в Эрфурте 3 апреля 1902 года. Он избрал для себя военную карьеру и к началу Второй мировой войны уже был ответственным сотрудником Генерального штаба. Будучи руководителем восточной группы оперативного отдела Генштаба, отличился при составлении военных планов нападения на Советский Союз. С октября 1940 года Гелен отвечал за «общие вопросы ведения войны на Востоке».
С 1 апреля 1942 года полковник возглавлял 12-й отдел Генштаба, к сфере деятельности которого, кроме Советского Союза, относились Скандинавия и Балканы. Плохо работавший до него отдел Гелен превратил в хорошо отлаженный механизм. Отдел, получивший название ФХО (Фремде Хеере Ост — «Иностранные армии на Востоке»), должен был заниматься обработкой материалов, поступавших от абвера, составлять сводки и прогнозы. Работа неблагодарная, тем более что её результаты докладывались Гитлеру и часто вызывали его раздражение и недовольство, так как не соответствовали его представлению о ходе дел.
Поскольку качественная информация от абвера перестала поступать, Гелен установил тесные контакты с другими разведывательными подразделениями: отделами фронтовой разведки «Ост-I–II–III», секретной службой связи, радио-, воздушной и фронтовой разведками. Использовались также результаты допросов военнопленных. Гелен лично участвовал в этой работе. Именно он склонил к сотрудничеству генерала Власова.
Гелен тесно сотрудничал и с VI управлением РСХА. Он принимал участие в подготовке операций «Цеппелин» по заброске агентов за линию фронта, разрабатывал тактические указания по применению диверсионных групп и организации саботажа в тылу противника.
Будучи человеком, к которому стекалась вся достоверная информация о ходе войны и неизбежном поражении Германии, и являясь воинствующим антикоммунистом, Гелен сделал выбор: поставить себя, свои знания и свой отдел на службу тому из западных союзников, кто изъявит готовность «приобрести» его и хорошо оплачивать его услуги.
Гелен держался подальше от заговорщиков 20 июля 1944 года, а если и поддерживал с кем-либо знакомство, то с теми, кто, как и он, ориентировались на Запад.
Перед концом рейха он не одобрил намерения гитлеровского руководства создать группы «Вервольфа» и вести подпольную войну.
5 апреля 1945 года Гелен заключил тайное соглашение со своим помощником Герхардом Весселем и бывшим шефом русского бюро абвера Германом Бауном. Они договорились прийти к американцам с хорошим «приданым» — архивом и картотеками, а также с лучшими, настроенными антикоммунистически, антисоветски и проамерикански, кадрами.
В суматохе последних дней войны Гелен оставил службу и с Весселем и другими верными ему людьми укрылся на альпийских лугах близ Элендзальма, где по его указаниям были зарыты в землю архивы ФХО.
Когда эту часть Европы заняли американские войска, Гелен не захотел сдаваться кому попало. Ему нужен был кто-либо из руководителей разведки или контрразведки. Но первый же встреченный им молодой капитан американской контрразведки отправил Гелена в лагерь военнопленных. Там, к счастью для Гелена, в июле 1945 года он встретился с бригадным генералом, шефом Г-2 (военная разведка) в американской оккупационной зоне Германии Эдвином Лютером Сибертом. Гелен поделился с ним своими идеями совместной борьбы против Советского Союза.
Это совпадало с идеями самого генерала Сиберта. Он представил Гелена начальнику штаба Эйзенхауэра генералу Уолтеру Беделлу Смиту, известному своими антисоветскими настроениями. Они долго и душевно беседовали. В результате в сентябре 1945 года Гелен вместе с шестью помощниками вылетел в США. Там они встретились с шефом американской военной разведки генерал-майором Джорджем В. Стронгом. До июля 1946 года в Вашингтоне велись переговоры и другая подготовительная работа.
В то же время бывший «союзник» Гелена Герман Баун под контролем генерала Сиберта, втайне от Гелена, создал небольшую группу разведки-контрразведки. Её штаб-квартира находилась в горном массиве Таунус. Активная работа началась с марта 1946 года.
В июле 1946 года Гелен возвратился в Германию. К этому времени американцы санкционировали и согласились финансировать единую разведывательную организацию во главе с Геленом. Баун и Вессель были назначены его помощниками. Так родилась ОГ.
Подобную организацию пытались создать и англичане. Но у них ничего не получилось. Её начальник Адольф Вихт вместе с подчинёнными в начале 1947 года перешёл в ОГ.
В числе условий, на которых была создана ОГ, были следующие:
1. немецкая разведывательная служба осуществляет разведку на Востоке… на основе общей заинтересованности в защите от коммунизма…
…4. Организация финансируется американской стороной… Взамен организация передаёт американцам все результаты разведывательной работы…
Вначале ОГ действовала в Таунусе, в декабре 1947 года её штаб-квартира переехала в поместье Рудольфа Гесса в Пуллахе, недалеко от Мюнхена.
Своего соперника Германа Бауна Гелен устранил в декабре 1951 года под предлогом финансовых нарушений.