В число видных государственных деятелей Федор Алексеевич выдвинулся в 1686-1689 гг., когда в качестве великого посла и наместника Сибири он вел переговоры с Китаем. Вполне вероятно, что направление Головина с миссией на далекий Восток имело и оборотную сторону - желание Софьи удалить из столицы очевидного сторонника Петра. Переговоры с Китаем завершились подписанием Нерчинского договора, впервые определившего границы между двумя государствами. Вернувшись в Москву уже после заключения Софьи в монастырь, Головин с радостью был встречен Петром и вскоре пожалован в генерал-кригскомиссары. Обязанности генерал-кригскомиссара были подобны должности военного министра: он отвечал за комплектование армии и ее снабжение всеми необходимыми материальными средствами. Вместе с Лефортом Федор Алексеевич помогал царю укрепить его власть и приступить к государственным и военным преобразованиям.
В 1696 г. Головин был привлечен царем к военно-морским делам: во время второго Азовского похода он прикрывал с моря русские войска, осаждавшие Азов, бывший тогда турецкой крепостью. После взятия Азова Федор Алексеевич участвовал в торжественном въезде в Москву, был награжден золотой медалью, кубком, вотчиной под Орлом. В следующем году он вместе с Лефортом и Меншиковым сопровождал Петра в первой поездке в Западную Европу.
Головин фактически провел всю черновую работу по подготовке Великого посольства. Кроме представительства и переговоров за границей он занимался приглашением иностранных моряков и мастеров на службу в русском флоте, закупал для кораблей пушки, парусину, якоря, компасы и др. Во время возвращения Великого посольства в Россию Головин первым из бояр сбрил себе бороду. С собой он вез большой багаж; кроме того, через Архангельск он отправил 31 ящик с "полезными вещами".
После подавления стрелецкого бунта царь наградил своего верного помощника и советчика специально выбитой серебряной медалью с изображением на одной стороне портрета Головина, на другой - фамильного герба с латинской надписью: "И советом и мужеством"; а учредив орден святого Андрея Первозванного, весной 1699 г. пожаловал Федора Алексеевича первым награждением этим орденом. Вскоре Головин был возведен в чин генерал-адмирала и получил под свое управление Воинский морской приказ, заведовавший комплектованием личного состава флота. Создав первый в России флот - Азовский, Петр I в августе 1699 г. совершил с ним учебный поход в Керченский пролив, при этом командующим флотом он назначил Федора Алексеевича. Одновременно в Керчь на 46-пушечном корабле "Крепость" был доставлен русский посол в Турции Украинцев, получивший задание выведать у османов: "мир ли хотят делать или войну". Одновременно с военно-морскими делами Головин исполнял другие важнейшие должности - главы дипломатического ведомства, начальника Ямского приказа, управляющего Малороссией и многими городами Великороссии, наместника Сибири. Его умная распорядительность простиралась необыкновенно далеко.
Зная и поддерживая замысел Петра - начать войну со Швецией за балтийские берега, Головин как глава дипломатического ведомства настойчиво добивался мира на юге - с Турцией. 8 августа 1700 г. курьер из Константинополя сообщил о заключении мирного договора с Оттоманской Портой, а 19 августа Петр I объявил войну Швеции. В этот же день он произвел своего канцлера в чин генерал-фельдмаршала и назначил предводителем новонабранной 45-тысячной армии для войны со Швецией. Как можно видеть, в эти дни Федор Алексеевич - второе "я" Петра. Соловьев отмечал: "на первом плане русский человек Головин, превосходивший всех русских людей своею бывалостию".
Дойдя с армией до Нарвы, Головин организовал осаду, но вскоре уехал с царем в Москву для решения срочных дипломатических вопросов. Среди них - подписание договора о военном союзе с Данией и русско-польские переговоры. Благодаря его усилиям польский король Август II обязался содействовать русским войскам в борьбе со шведами в Прибалтике. В 1701 г. Головин был поставлен во главе основанной в Москве, в Сухаревой башне, Навигацкой школы; позже, в 1715 г., на базе навигаторских классов школы, переведенных в Петербург, была создана Морская академия. Федор Алексеевич принимал участие в редактировании первой русской печатной газеты "Ведомости о военных и иных делах, достойных знания и памяти, случившихся в Московском государстве и во иных окрестных странах". В 1702 г. вместе с Петром и Меншиковым он отправился под Нотебург, помогал организовывать осаду этой крепости, взятой штурмом в октябре. Затем содействовал царю в руководстве военными действиями в Ингрии. 16 ноября Головин был возведен в графское достоинство. За первую морскую победу над шведами, одержанную в мае 1703 г. Петром и Меншиковым в устье Невы, Федор Алексеевич возложил на них орден святого Андрея Первозванного.