В 1921 году демобилизован, уехал в Петроград. Будучи человеком физически крепким, занимался разгрузкой товарных вагонов, иногда работал подручным шофера. Среднюю школу II ступени закончил за два с половиной года. В 1923 году сдал экзамены на штурмана каботажного плаванья при Петроградских мореходных классах и в следующем году уехал на Дальний Восток. Старшим матросом ходил на парусно-моторном боте «III Интернационал». Но постоянной работы не было, пришлось вернуться. К тому же, тянула мечта заняться наукой. «В один из таких моментов я пошел к одному чудесному человеку, вдохновенному романтику моря, талантливому литератору-капитану Дмитрию Афанасьевичу Лухманову. Мы сидели у него дома на Шестой линии, пили чай с вареньем. Я говорил, он слушал. Внимательно слушал, не перебивая, знаете, это большой дар – уметь слушать! – потом сказал: „Иди, Иван, в науку! А море, брат… Что ж, все равно ты его уже никогда не забудешь. Морская соль въелась в тебя“. Это и решило мою судьбу…»
Место директора Северодвинской галереи, размещавшейся в ленинградском Геологическом музее, занимал академик П. П. Сушкин. Он с интересом отнесся к молодому штурману и в 1924 году по его рекомендации Ефремов поступил на биологическое отделение физико-математического факультета Ленинградского университета. Однако с третьего курса ушел, посчитав, что общебиологической подготовки ему хватит.
«Начал я препаратором у академика Сушкина, – вспоминал позже И. А. Ефремов. – Эта работа – освобождение ископаемых костей от породы, в которую они вкраплены, оставляет свободной голову. Приобретя некоторые навыки, можно хорошо работать и думать о своем. То же и в экспедициях. Долгие поездки и утомительные ожидания на железнодорожных полустанках и аэродромах. Сколько часов, суток и месяцев пропали даром! Геологов и палеонтологов я бы награждал медалью за долготерпение. Но есть в этом и хорошая сторона: праздное время освобождает голову для размышлений…»
Полевые работы многое определили в характере И. А. Ефремова.
«Не доезжая станции Шунгай, – (Прикаспий, 1926, –
В этих записях – основа будущего рассказа «Белый рог».
«У основания отвесного фундамента Белого Рога геолог остановился, выбирая путь. Прямо на Усольцева, гонимое ветром, надвигалось облако. В поле косо вздымающейся белой массы, свободно висевшей в воздухе, было что-то неизъяснимо вольное, смелое. Страстная вера в свои силы овладела Усольцевым. Он подставил грудь ветру, широко раскинул руки и принялся быстро спускаться по склону, стоя, держа равновесие только с помощью ветра, в легкой радости полета. И ветер не обманул человека: с ревом и свистом он поддерживал его, а тот, переступая босыми ногами, пятная склон кровью, опускался все ниже…»
В 1929 году И. А. Ефремов – научный сотрудник второго разряда в Остеологическом отделе Геологического музея. В 1932 году проводит геологические изыскания будущей железнодорожной линии Лена – Бодайбо – Тында (БАМ). В том же году переведен в сотрудники первого разряда Палеозоологического института Академии наук СССР. В 1935 году экстерном заканчивает Ленинградский горный, защищает кандидатскую диссертацию. Вместе с Академией наук СССР переезжает в Москву.
Многие годы занимался исследованиями медистых песчаников, развитых на Урале.