В конце XVII века Азовская крепость представляла собой мощное сооружение, обнесенное двойным рядом рвов. Длина крепостной стены Азова составляла 600 сажен, высота стен с берега Дона — 10 сажен, рвы вокруг крепости — 4 сажени шириной и 1,5 сажени глубиной. «Саад-уль-Ислам», или «оплот ислама», как называли сами турки Азов, преграждал донским казакам и Московской Руси путь в Северное Причерноморье. Петр I решил воевать не с подчиняющимся Порте крымским ханом, а напрямую — с турецким султаном. Смена главного направления объяснялась и другими причинами. Царь решил не идти в центр Крымского ханства, а ограничиться восточным флангом. Азов являлся исходным пунктом для турецко-татарских походов на Поволжье и Москву, поэтому захват крепости имел далеко идущие стратегические планы.
Русская армия получила возможность продвижения вдоль реки Дон, берега которого населяло зажиточное казачество. По течению Дона, Северного Донца, Хопра, Медведицы и других мелких рек стояли 145 городков. 15 марта на Дон была отправлена грамота. Донскому атаману Фролу Минаеву рекомендовалось набрать людей, но информацию держать в строгом секрете, открыв план только доверенным старшинам.
В марте 1695 года 150-тысячное русское войско выступило против османов. 120 тысяч собрались в Белгороде и Севске. Командовать ими царь поручил Б.П. Шереметеву. Главные силы общей численностью в 31 тысячу человек, состоявшие из Преображенского, Семеновского, Лефортовского, Бутырского полков, московских стрельцов, городовых солдат, возглавили Ф.Я. Лефорт, П.И. Гордон, Ф.А. Головин. Преображенский и Семеновский гвардейские полки были укомплектованы преимущественно боярскими детьми, составившими позднее основу офицерского корпуса русской регулярной армии. Бомбардирскую роту вел сам царь — бомбардир Петр Алексеевич Михайлов. В песне-марше семеновских гвардейцев отражена общая идея, которая объединяла столь разных на первый взгляд участников похода:
Весной 31-тысячное регулярное московское войско с 201 орудием, с запасом пороха в 30 000 пудов и 32 700 гранатами, ядрами и бомбами пошло в Азовский поход. Чтобы отвлечь противника от авангарда, около 120 тысяч русских войск отправились в низовья реки Днепр под командованием Б.П. Шереметева. С самого начала отмечались разногласия в действиях командующих, постоянно спорящих друг с другом. Участник этих событий П. Гордон писал позже: «Все делалось так медленно и беспорядочно, будто мы не собирались взять крепость». Возникли непредвиденные сложности. Передвижение по Дону потребовало дополнительных людских ресурсов в связи с необходимостью грести на лодках, что отрицательно сказалось на солдатах, непривычных к длительной изнурительной гребле, а нехватка лошадей вынуждала солдат переносить на себе пушки, амуницию и провиант. Только в июне 1695 года русская армия подошла к Азову, где русские столкнулись с новыми трудностями. Османы, укрепляя Азовскую крепость, построили с обеих сторон Дона две каланчи, не позволившие русскому командованию соединиться со складами, где хранились запасы провианта и оружия. Чтобы наладить связь, русское командование организовало десант против турок, охраняющих береговые башни. Турки имели хороших осведомителей. Через калмыцкого Аюкутайшу турки на раннем этапе похода узнали о приближении русских. В окружении русского командования оказались и предатели. Голландский матрос Яков Янсен, любимый Петром I и приближенный к нему, бежал к туркам и выдал им план расположения русских войск и сведения о составе и численности. Другая опасность для русских исходила от старообрядцев. Раскольники, проживавшие в крепости, перебегали в траншеи к русским. При оклике часового отвечали на русском языке, что они казаки. Осмотрев прикрытие русских, разведчики возвращались в крепость.