В 1916 г., по окончании гимназии, М. Аксельрод поступил на юридический факультет Московского университета. С началом революции возвратился в Смоленск; вел культурно-просветительскую работу, а в 1918–1920 гг. заведовал лекционной секцией политуправления Западного военного округа. Женился – на Руте Минаевне Хазановой, комиссаре батальона политработников, «женщине с незаурядной силой воли, твердым характером и крепким умом», как о ней отзывались друзья и сослуживцы М. Аксельрода.
В 1921 г. возобновил учебу в университете, который закончил в 1923 г. (одновременно обучался и на арабском отделении Московского института востоковедения (МИВ), которое успешно окончил в 1924 г.). В годы учебы познакомился (в Библиотеке клубных учреждений им. Я. М. Свердлова при ВЦИКе, располагавшейся в Кремле) с Верой Васильевной Венедиктовой, которая стала его новой женой (с Рутой Хазановой он развелся, но сохранил к ней глубокое уважение). В то время она состояла в штате кремлевской библиотеки.
По окончании МИВ его направили на работу в НКИД (он свободно владел арабским, турецким, древнееврейским, английским, немецким, французским и итальянским языками). В период с 1924 по 1927 гг. М. Аксельрод служил в советской дипмиссии в Джидде. Его жена, Вера Васильевна, приехала в Джидду только осенью 1925 г., и работала в консульстве машинисткой. Начиная с 1925 г., М. Аксельрод вел агентурную работу в Хиджазе; одновременно являлся также агентом ИНО ОГПУ (Иностранного отдела Объединенного государственного политического управления, то есть внешней разведки СССР) в Йемене (1925–1927). Находясь в Аравии, М. Аксельрод, со слов сбежавшего на Запад в 1930 г. из Турции советского резидента нелегальной разведки Георгия Агабекова, «вел работу в Эритрее [в то время – колония Италии] и даже посылал, своих агентов в Египет» (179).
Из отчета (21.01.1929) Георгия Александровича Астахова (в 1920–1939 гг. служил в НКИД) о его второй командировке в Йемен (первую совершил летом 1928 г.) следует, что разведдеятельность М. Аксельрода не осталась незамеченной у спецслужб Египта. В Порт-Саиде, в 1928 г., по пути следования в Йемен для участия в составе советской делегации в переговорах по вопросу об установлении дипломатических и торговых отношений, докладывал он, «бросилась в глаза усиленная бдительность п[аро]/ходной полиции в отношении нас, особенно в отношении т. Аксельрода. Наши паспорта были взяты на берег (очевидно, для фотографии). Один из полицейских с утрированной конфиденциальностью сообщил т. Аксельроду, что мы в Египте занесены в “черный список”» (180).
Перейдя из НКИД на работу в ИНО ОГПУ (1928), М. Аксельрод по заданию ИНО в 1929 г. в течение шести месяцев находился в служебной командировке в Турции. По возвращении в Москву преподавал в МГУ, МИВ и Коммунистическом университете трудящихся Востока (1929–1931). Состоял во Всесоюзной научной ассоциации востоковедов (ВНАВ, 1929–1930); избирался членом президиума ее ближневосточной секции, а потом и заместителем ее председателя – С. К. Пастухова, дипломата, востоковеда-ираниста, заведующего отделом Ближнего Востока НКИД. Организовал Школу особого назначения 5-го отдела ГУГБ. После закрытия в 1930 г. ВНАВ и прекращения изданий журналов «Новый Восток» и «Международная жизнь» участвовал в редактировании арабско-русского словаря Х. К. Баранова и в написании «Словаря иностранных слов» (вышел в Москве в 1931 г.)
В 1934–1937 гг. являлся резидентом советской нелегальной разведки в Италии. Жительствовал в Риме, вместе с Верой Васильевной и дочерью. Во время пребывания там прослушал курс лекций в Римском университете. В письмах к сестре и ее мужу, как рассказывает И. М. Смилянская, крайне негативно отзывался о фашистской Италии. «.Фашизм здесь неплохо поработал, – писал он (04.05.1936), – все задавлено и не дышит. Тишина образцовая, как в могиле. Перерывы только во время парадов и патриотических манифестаций. Тогда все орут. За отсутствием хлеба народ кормят зрелищами» (181).
М. М. Аксельрод опубликовал около 30 научных статей. Большинство из них – под псевдонимом Рафик Муса («Товарищ Муса» или «Товарищ Моисей»; Муса у арабов – это Моисей). Самые известные статьи о Хиджазе – «Мекка», «Борьба за Аравию», «Эволюция Геджаса [Хиджаза] и его конституция», «Реформы в Геджасе» и др. – в журналах «Международная жизнь», «Новый Восток» и «Красная новь».