В 1901 году, окончив гимназию, Ферсман поступил на физико-математический факультет Новороссийского (Одесского) университета. Минералогию в университете читал профессор Прендель. Невозможно скучные лекции Пренделя могли кого угодно оттолкнуть от занятий. Только переход в Московский университет удержал Ферсмана на естественном факультете. В Москве, на его счастье, кафедру минералогии возглавлял В. И. Вернадский. В его лекциях минералы выглядели не грудой мертвых статичных образований, а продуктом совершенно определенных химических реакций, безостановочно протекающих в земной коре.
Здесь Ферсман опять, теперь на всю жизнь, увлекся минералогией.
«Мы работали не менее двенадцати часов в лаборатории, нередко оставаясь на ночь, – вспоминал он, – так что анализы шли целые сутки; два раза в неделю мы читали доклады в кружке у В. И. Вернадского, разбирали с ним коллекции, слушали его увлекательные лекции. Университетская жизнь с блестящими выступлениями Ключевского, годы молодой борьбы за высшую школу, огромный научный и общественный авторитет Вернадского – все накладывало и на нас свой отблеск, и мы гордились своими 12 кв. метрами лаборатории, гордились музеем, гордились каждой печатной работой нашего старого и запущенного Института».
Окончив университет, Ферсман отправился в двухгодичную заграничную командировку. В Париже он работал у минералога А. Лакруа, в Гейдельберге у норвежского геохимика В. М. Гольдшмидта. В Швейцарии, в Италии, в Германии, во Франции, на острове Эльба побывал на многих месторождениях минералов. Там же, за границей, закончил монографию, посвященную алмазам. Проиллюстрировал он ее собственными рисунками. Но главным в командировке стало то, что на острове Эльба Ферсман впервые заинтересовался пегматитами – горной породой, для которой характерна своеобразная структура, обусловленная необычным срастанием кварца и полевого шпата. Кристаллы кварца на фоне полевого шпата образуют узор, напоминающий древнюю клинопись, отсюда и второе название пегматита – письменный камень. Интересен пегматит еще тем, что с его месторождениями, как правило, связаны находки драгоценных камней, разнообразных слюд, полевых шпатов, оловянного камня, радиоактивных и редких минералов.
Занявшись пегматитами, занимаясь ими много лет, Ферсман стал крупнейшим их знатоком. В 1931 году он обобщил свои исследования в большой работе «Пегматиты, их научное и практическое значение». Ценность этой работы заключалась в том, что впервые пегматиты были подвергнуты изучению с точки зрения минералообразующих процессов. Ферсман сумел показать, как в течение весьма длительного процесса остывания магмы в строгой последовательности, определенной законами физической химии и термодинамики, выделялись различные минералы в различных сочетаниях друг с другом. Это позволило лучше понять, почему те или иные минералы и руды часто встречаются вместе или, наоборот, как бы избегают друг друга.
В 1909 году Ферсман начал преподавать минералогию в Московском университете. Но в 1911 году, в связи с известными событиями, связанными с действиями министра народного образования Л. А. Кассо, он покинул университет.
С 1912 года Ферсман – профессор минералогии Высших женских (Бестужевских) курсов в Петербурге. Одновременно он – старший хранитель, а затем директор Минералогического музея Петербургской Академии наук. Тогда же Ферсман принял деятельное участие в организации научно-популярного журнала «Природа», сыгравшего неоценимую роль для распространения научных знаний в России.
Когда началась первая мировая война, Россия, слабо разрабатывавшая свои месторождения полезных ископаемых и лишенная теперь возможности получать минеральное сырье из-за границы, оказалась в крайне тяжелом положении. Для решения этих вопросов в 1915 году группой видных ученых была организована специальная Комиссия сырья и химических материалов при Комитете военно-технической помощи. Возглавил Комиссию Ферсман. Одновременно он исполнял обязанности секретаря Комиссии по изучению естественных производственных сил при Академии наук – КЕПС. Эта Комиссия имела самое прямое отношение к военным нуждам, но дела ее постоянно тормозились отсутствием средств, необходимых для срочных исследований. Дошло до того, что академик Крылов, возмущенный волокитой со стороны правительства, однажды заявил, что при таком подходе к делу можно ожидать чего угодно, даже полного крушения императорской семьи, – ведь это ей принадлежали вольфрамовые месторождения Забайкалья, о которых шла речь на собрании. Вынув из кармана 500 рублей, Крылов сказал: «Это для спасения нашей армии, оставшейся без снарядов».
По-настоящему огромный научный и организаторский талант Ферсмана развернулся после революции. Обладая глубокими знаниями в самых разных областях – почвоведении, геологии, минералогии, химии, физики и геофизики, астрономии, истории материальной культуры, истории науки, Ферсман в каждой из перечисленных областей оставил заметный след.