Между тем в Византии давно уже относились с недоверием к политике персов. В особенности поводы к неудовольствиям подавала религиозная политика персов в соседней и частью подвластной им Армении, где под влиянием новой нравственной и социальной системы, известной по имени основателя ее ?аздака, началось гонение на христианство. Армяне просили у Анастасия помощи и предлагали ему принять их в свое подданство, начав в то же время движение против персов и разрушив выстроенные ими храмы. Персидская война началась в 502 г. походом царя Кобада в Армению, когда со стороны Византии не принято еще было никаких военных действий. Первый удар сделан был на город Феодосиополь (Эрзерум), который сдался персам без сопротивления вследствие измены префекта города Константина. Кобад, разрушив город до основания и забрав в плен его жителей, переселил их в Персию. Прошедши всю Армению с севера, Кобад к осени того же года расположился лагерем под городом Амидой, находившимся на границе Армении и Месопотамии. Здесь персидский стан стоял три месяца, т.к. осада города потребовала применения инженерного искусства и встретила серьезное сопротивление со стороны гарнизона. Чтобы взять город, персы стали насыпать высокий вал, с которого можно было бы завязать дело с защитниками города. Но гарнизон осажденной Амиды, сделав подкоп под стену и под насыпанный персами вал, старался тайно выносить землю и портить вал. Действие стенобитных машин осажденные ослабляли кожами убитых быков, а приближавшихся к стенам неприятелей отражали горячей водой и горючими веществами, Которые уничтожали деревянные военные машины. Кроме того, в распоряжении осажденных были метательные снаряды, которыми они бросали огромные камни в осаждающих, нанося большой вред людям и снарядам.

Говорят, что в течение осады погибло громадное число персидских воинов столько же от суровой стужи, как и от неудачных приступов к стенам. Кобад был уже готов снять осаду и предлагал осажденным уплатить ему небольшую сумму за отступление, как в пользу персов. Неожиданно сложились благоприятные обстоятельства, передавшие им город. Собственно, точных сведений об этом не дают даже и очень осведомленные о событиях писатели, и притом современники, как Иисус Стилит и ритор Захария. Будто бы одно из главных укреплений стены вверено было защите монахов, которые недостаточно внимательно относились к порученному им делу и раз ночью не доглядели, как персы приблизились к стене и подставили лестницы. По другим слухам, персы пробрались в город через подземный ход, воспользовавшись темной ночью. Так или иначе, город был взят неожиданно, и защитники оказались не в состоянии принять мер к спасению. Три дня продолжалась, однако, в городе неравная борьба между персами и побежденными горожанами. Огромная добыча из золота, серебра и драгоценных одежд, равно как мраморные статуи и всякие драгоценности снесены были на реку Тигр и отправлены на судах в Персию. Когда по приказанию Кобада стали очищать город от трупов защитников, погибших во время битвы последних дней, то насчитали, говорят, до 78000. Персы не желали окончательно разрушать этого города; напротив, имея в виду его укрепления и географическое положение на границе между двумя империями, они предполагали сохранить его как крепость, на которую можно бы было опираться в войне с Византией, для чего Кобад, отступая с войском от Амиды, оставил в ней гарнизон из 3000 человек.

Между тем как сам Кобад три месяца провел под Амидой, отдельные персидские отряды делали опустошительные набеги по Северной Месопотамии, доходя до Едессы, причем персам помогали арабские хищники, наводившие ужас на местное население и заставлявшие его искать спасения в Сирии. По всему заметно, что осенью и зимой 502 г Анастасий не имел на границе достаточных военных сил для противодействия персам, и что он не терял надежды на мирное разрешение недоразумений. Но когда была взята Амида и персы стали угрожать другим городам, император собрал войско и послал его летом 503 г. на восточную границу. Может быть, следует пожалеть, что войско было разделено на три отряда, во главе коих стояли отдельные стратиги: Ариобинд, Патриций и Ипатий. Первый происходил от знаменитых германцев на службе Византии Аспара и Ардавурия и занимал должность главнокомандующего восточными войсками; Ипатий принадлежал к высшему классу в обществе как племянник Анастасия; Патриций также был из числа известных тогда полководцев. Кроме названных вождей в персидском походе участвовали еще комит Иустин, преемник Анастасия на престоле, и получивший вскоре затем большую известность Виталиан, о котором была уже речь и который принимал участие вместе с своим отцом Патрициолом. Во главе войска стояли большею частью не греческие племена, а самое войско состояло из разных по этнографическому составу элементов: тут были фракийцы, готы, бессы, т.е. разные племена, состоявшие в качестве федератов на службе империи. Но прежде чем византийское войско встретилось с неприятелями, между вождями обнаружилось несогласие, имевшее чрезвычайно вредные последствия для хода военных дел.

Прежде всего все три вождя действуют раздельно, каждый на собственный страх. Ариобинд расположился лагерем в окрестностях города Нисибис в провинции Мигдонии, остальные два вождя остановились близ Амиды. Хотя Ариобинд приглашал своих товарищей поспешить на юг, чтобы принять участие в осаде Нисибиса, но они отклонили предложение и тем дали Кобаду возможность оттеснить Ариобинда к Едессе. Между тем Патриций и Ипатий начали осаду Амиды, которая легко бы им и сдалась, если бы у них хватило смелости и настойчивости, и если бы они не сняли преждевременно осады из страха перед Кобадом. Хотя затем Патриций пытался нанести вред персам, но сам был окружен ими и едва спасся бегством в Самосат. Товарищ его Ипатий был отозван в Константинополь и в дальнейшем ведении войны не принимал участия. Теперь, когда для персов устранена была опасность вторжения в их область, они сами могли начать наступательные действия – по направлению к Константине и Едессе, где стоял Ариобинд.

Осенью 503 г. военные дела сосредоточились около Едессы, которую Кобад желал взять приступом. Ариобинд нашел в Едессе достаточно укрепленный опорный пункт и успел отстоять город против персов. Наконец Анастасий назначил для войны с персами нового вождя в лице Целера, которому и удалось изменить ход дел в пользу империи. Целер был земляк Анастасия и пользовался его доверием. Он был назначен с большими правами, чем другие вожди, и потому мог придать войне некоторый план и единство, чего прежде недоставало. Прежде всего обращено было внимание на Амиду, в которой содержался персидский гарнизон и которая мешала операциям в Месопотамии, т.к. персы распоряжались здесь со всею свободой, не боясь соперников. Сюда был направлен Патриций, стоявший в бездействии в Мелитене в Южной Каппадокии, который отрезал Амиду от внешних сношений и нанес поражение присланному Кобадом отряду персов. Затем началась осада Амиды, которая потребовала продолжительных земляных работ, имевших целью подкопаться под стену и окружить ее валом. Осада велась медленно, т.к. Патриций имел в виду вынудить сдачу города голодом. В то же время другие вожди, Целер и Ариобинд, начали наступательный поход – один в Персию, другой в персидскую Армению. Все это значительно подняло авторитет Византийской империи в этих местах, так что местные армяне и арабы стали изменять персам и переходить на сторону византийской партии.

В особенности же персам повредило то обстоятельство, что северным границам Персии стали угрожать гунны, против которых должен был идти сам Кобад. Итак, приняв во внимание, что военное счастье совершенно перешло к грекам и что Амида далее не может сопротивляться, Кобад начал с Целером переговоры о мире, освободив из плена значительное число военных и гражданских чинов, захваченных в первый год войны, и послав их к Целеру с предложением принять их в обмен на тех персов, которые заперты в Амиде. Между тем, как шли переговоры об условиях мира, которые нуждались еще в утверждении Анастасия, состоялась сдача Амиды в конце 504 г., т.е. спустя два года после занятия ее персами. т.к. персы в этом отношении перехитрили Целера, потребовав у него выкупа за город и свободного выхода всех персов с таким количеством имущества, какое каждый мог на себе вынести, то гРеки были весьма раздосадованы, когда оказалось, что в Амиде продовольствия оставалось не больше, как на семь дней. Желая вознаградить город за все потери, испытанные им во время войны, император приказал снабдить Амиду съестными припасами, освободил на семь лет от торговых пошлин, приказал возобновить на казенный счет стены и публичные здания в городе, одарил жертвами и пожалованьями соборный храм Амиды. Вообще нужно отметить как характерную черту времени то обстоятельство, что Анастасий принял самые энергичные меры к уврачеванию бедствий, нанесенных войной. Так, по всей Месопотамии проведено облегчение податной системы, отдельным городам пожалованы разные милости и большие суммы на возведение стен, на устройство водопроводов и бань. Мир заключен был в 506 г. в местности близ города Нисибиса и местечка Дары на семь лет. Та и другая стороны обязывались сохранять пограничную черту владений, как это было до войны. Анастасий послал Кобаду богатые дары, но, как показали ближайшие события, это было сделано с целью отвлечь внимание Кобада от задуманного им важного предприятия на самой границе греко-персидских владений.