Император Лев I привез его в Константинополь и в противодействие влиянию германских войск алана Аспара доверил ему командование новой дворцовой охраной (ехсиЬНоги), состоявшей из его соотечественников-исавров. Он принял менее неуклюжее имя Зинон, обычное для человека, происходившего из тех же земель, что и он. Лев I дал ему в жены свою старшую дочь Элию Ариадну (вместо его бывшей жены Аркадии), а в 467—468 гг. он был назначен главнокомандующим (та^ег тШшт) во Фракии и должен был дать отпор вторжению гуннов под предводительством сына Аттилы, Ден-зиха (Денгезиха).
Несколько солдат, подстрекаемых Аспаром, задумали убить Зинона, но его предупредили заранее, и он бежал на Сердику. Получив консульство в 469 г., он был переведен на Восток в должности главнокомандующего и отправился в Малую Азию, где ему нужно было остановить грабительскую деятельность своего соотечественника, исавра Индака. Для него было ударом узнать, что Лев I даровал титул цезаря Патрикию, младшему сыну его соперника Аспара, и устроил его помолвку со своей младшей дочерью Леонтией. Зинон также обнаружил, что старший сын Аспара, Ардабурий, старается захватить командование над исаврскими войсками в столице. Когда впоследствии в 471 г. Аспар и Ардабурий были убиты, все считали Зинона ответственным за это. В 473 г. он был назначен главнокомандующим штаба.
В октябре того же года Лев I возвысил своего пятилетнего внука с таким же именем, сына Зинона и Элии Ариадны, до положения августа-соправителя, и, когда 18 января 474 г. император умер, мальчик стал номинальным восточным правителем. 9 февраля его отец, Зинон, сделался его соправителем. Этот почин был поддержан сенатом с согласия вдовы Льва, Элии Верины. В Константинополе были выпущены монеты с обычными погрудными изображениями в шлемах и латах с надписью: «Господа наши Лев [II] и Зинон Вечные Августы». Погрудное изображение по виду взрослого человека, видимо, представляет Зинона. Но на обороте монеты вместе с надписью «Благополучие государства» (ЗАЬУЗ КЕ1РУВЫСАЕ) видны сидящие фигуры двух императоров; и Лев II, хотя и миниатюрного размера, сидит справа от Зинона в позиции старшего августа. Однако еще до конца этого года Лев II умер. Ходили слухи, что он был убит собственным отцом. Так это было или нет, но Зинон остался единственным императором на Востоке.
Отношения Зинона с Западом были хорошими, потому что человек, занимавший западный трон, Юлий Непот (474— 475 гг.), был его ставленником (связанным с семьей его жены по браку). Но Гейэерих, король вандалов, очень недовольный убийством Аспара, овладел Эпиром с моря и захватил Никополь, правда, в конце концов был заключен мирный договор между Восточной империей и вандалами (который оказался необычайно продолжительным и выполнялся в течение более чем полусотни лет). Восшествие на престол Зинона также побудило остготского родственника Аспара, Теодориха Страбона, возобновить враждебные действия во Фракии. Он сумел взять в плен главнокомандующего, но впоследствии ему помешал исавр Илл, военачальник Зинона.
Вскоре выяснилось, что Илл ненадежен: он оказался вовлеченным в разрушительное движение в самом Константинополе. Заговор был подготовлен собственной тещей Зинона, Элией Вериной, которая, хоть и способствовала его возвышению, не выносила того, что ее дочь, царствующая императрица, затмила ее саму. Она собиралась заменить Зинона своим любовником Патрикием, бывшим смотрителем императорских секретариатов (magister offlciorum) (имеется в виду не сын Аспара, а его тезка). Илл и его брат, Трокунд, тоже были вовлечены в этот план ее братом, Василиском. Зинон, предупрежденный о том, что его жизнь в опасности, бежал в Исав-рию со многими своими соотечественниками и богатой казной. Вышло так, что сенат отверг Патрикия и предпочел Василиска, но после двадцати месяцев правления он потерял всех тех, кто его поддерживал, и в августе 476 г. Зинон вернулся в столицу.