Между тем в Византии давно уже относились с недоверием к политике персов. В особенности поводы к неудовольствиям подавала религиозная политика персов в соседней и частью подвластной им Армении, где под влиянием новой нравственной и социальной системы, известной по имени основателя ее Маздака, началось гонение на христианство. Армяне просили у Анастасия помощи и предлагали ему принять их в свое подданство, начав в то же время движение против персов и разрушив выстроенные ими храмы. Персидская война началась в 502 г. походом царя Кобада в Армению, когда со стороны Византии не принято еще было никаких военных действий. Первый удар сделан был на город Феодосиополь (Эрзерум), который сдался персам без сопротивления вследствие измены префекта города Константина. Кобад, разрушив город до основания и забрав в плен его жителей, переселил их в Персию. Прошедши всю Армению с севера, Кобад к осени того же года расположился лагерем под городом Амидой, находившимся на границе Армении и Месопотамии. Здесь персидский стан стоял три месяца, т. к. осада города потребовала применения инженерного искусства и встретила серьезное сопротивление со стороны гарнизона. Чтобы взять город, персы стали насыпать высокий вал, с которого можно было бы завязать дело с защитниками города. Но гарнизон осажденной Амиды, сделав подкоп под стену и под насыпанный персами вал, старался тайно выносить землю и портить вал. Действие стенобитных машин осажденные ослабляли кожами убитых быков, а приближавшихся к стенам неприятелей отражали горячей водой и горючими веществами, которые уничтожали деревянные военные машины. Кроме того, в распоряжении осажденных были метательные снаряды, которыми они бросали огромные камни в осаждающих, нанося большой вред людям и снарядам.
Говорят, что в течение осады погибло громадное число персидских воинов столько же от суровой стужи, как и от неудачных приступов к стенам. Кобад был уже готов снять осаду и предлагал осажденным уплатить ему небольшую сумму за отступление, как в пользу персов неожиданно сложились благоприятные обстоятельства, передавшие им город. Собственно, точных сведений об этом не дают даже и очень осведомленные о событиях писатели, и притом современники, как Иисус Стилит и ритор Захария. Будто бы одно из главных укреплений стены вверено было защите монахов, которые недостаточно внимательно относились к порученному им делу и раз ночью не доглядели, как персы приблизились к стене и подставили лестницы. По другим слухам, персы пробрались в город через подземный ход, воспользовавшись темной ночью. Так или иначе, город был взят неожиданно, и защитники оказались не в состоянии принять мер к спасению. Три дня продолжалась, однако, в городе неравная борьба между персами и побежденными горожанами. Огромная добыча из золота, серебра и драгоценных одежд, равно как мраморные статуи и всякие драгоценности снесены были на реку Тигр и отправлены на судах в Персию. Когда по приказанию Кобада стали очищать город от трупов защитников, погибших во время битвы последних дней, то насчитали, говорят, до 78 000. Персы не желали окончательно разрушать этого города; напротив, имея в виду его укрепления и географическое положение на границе между двумя империями, они предполагали сохранить его как крепость, на которую можно бы было опираться в войне с Византией, для чего Кобад, отступая с войском от Амиды, оставил в ней гарнизон из 3000 человек.