Повторно этот вопрос рассматривался ЦК в апреле 1921 года Политбюро. Было решено назначить заведующим Восточным отделом ВЧК петроградского хозяйственного работника, ранее служившего председателем ЧК в Саратове и Башкирии, уполномоченным ВЧК на Кавказе, Семена Лобова. Но и это назначение не состоялось окончательно. Восточный отдел был образован в составе Секретно-оперативного управления приказом по ГПУ только 2 июня 1922 года. Основой его послужило 14-е спецотделение Особого отдела ВЧК, начальником которого был Владимир Стырне. Новая структура должна была объединять работу чекистов на Кавказе, в Туркестанской, Башкирской, Татарской и Крымской автономных республиках, Хивинской и Бухарской народных советских республиках в сфере «специфической восточной контрреволюции и восточного шпионажа». Новому отделу вменялась разработка материалов Закордонной части ИНО из стран Востока; исполнение оперативных заданий Восточного отдела было обязательным для ИНО. Начальником отдела стал член Коллегии ГПУ Яков Христофорович Петерс, личность в органах к тому времени легендарная. Старый латышский революционер, побывавший в лондонской эмиграции, участник Октября, бессменный член Коллегии ВЧК-ОГПУ с первого дня — 20 декабря 1917-го, заместитель Дзержинского в 1918–1919 годах и его временный преемник в течение полутора месяцев после левоэсеровского выступления 6 июля 1918 года, побывавший во время гражданской войны со специальными заданиями ВЧК в Петрограде, Туле, на Украине, Северном Кавказе, Туркестане, к 1923 году Петерс совмещал несколько постов — руководил Главной инспекцией пограничных войск и войск ГПУ, работал в Центральной контрольной комиссии партии. Делами отдела занимались заместители Петерса и начальники отделений. Отделений в Восточном отделе было три. Первое занималось Ближним Востоком и Кавказом, возглавлял его по совместительству до перевода в Ташкент в январе 1923 года заместитель Петерса Владимир Стырне, второе — Средней Азией и Средним Востоком, начальником был Федор Эйхманс (бывший председатель Семиреченской ЧК, будущим первый начальник Управления лагерей ОГПУ, соратник и выдвиженец знаменитого чекиста Глеба Бокия). третье — Дальним Востоком. Им руководил наименее известный и наиболее образованный (учился в Лазаревском институте восточных языков в Москве) из всех Михаил Казас. В его отделение и попал на должность уполномоченного, а вскоре поднялся до помощника начальника отделения 24-летний Наум Эйтингон. Некоторые сослуживцы Эйтингона по Восточному отделу стали позднее заметными фигурами в органах ОГПУ, как, например, переведенный из Закавказской ЧК на должность уполномоченного 2-го отделения Хорен Петросян.
Работу молодой, но уже достаточно высокопоставленный чекист (должность его в сравнении с позднейшей структурой органов госбезопасности равнялась посту заместителя начальника управления в главке центрального аппарата) совмещал с учебой на восточном факультете Военной академии РККА, куда поступил в том же 1923 году. Это, видимо, было принято в Восточном отделе. В той же академии учились и другие уполномоченные Восточного отдела — коллега Эйтингона по Гомелю и Уфе Владимир Алексеев, Михаил Аллахвердов, Иван Шебеко и их начальник Михаил Казас (он также учился и в Институте востоковедения).
Военной академии Красной Армии в то время пришлось быть кузницей кадров советской разведки — как военной, так и чекистской. Специальных разведшкол еще не существовало. На Высших курсах ОГПУ, основанных в 1921 году, готовили сотрудников только для внутренних органов. А в Военной академии имелась достаточно мощная научная база, еще с дореволюционных времен.
Начальником академии ко времени поступления Эйтингона и Алексеева был Павел Павлович Лебедев, бывший генерал-майор царской армии, с 1918 года служивший в Красной Армии. В апреле 1924 года его сменил Михаил Васильевич Фрунзе, бывший одновременно заместителем наркомвоенмора и председателя Ревввоенсовета СССР, а также и комиссаром академии. А когда в январе 1925 года Фрунзе стал наркомом и председателем РВС вместо Льва Троцкого, начальником и комиссаром академии стал Роберт Эйдеман, бывший командующий Сибирским военным округом. После смерти Фрунзе с осени 1925 года академия носит его имя.
Начальником восточного факультета был Борис Иванович Доливо-Добровольский, бывший морской офицер, выдающийся ученый-лингвист. Преподавали в академии старые военные специалисты, бывшие высшие офицеры старой армии Василий Федорович Новицкий (крупнейший знаток военной истории), Константин Иванович Величко (специалист по фортификации), знаменитый военный теоретик Александр Андреевич Свечин, бывший военный министр Временного правительства Александр Иванович Верховский.