Большой храм кубической формы, лишенный подклета, опоясан приземистой одноэтажной галереей. Ее первоначально открытая аркада на широких массивных кувшинообразных столбах словно сдавлена «под тяжестью» возвышающегося над ней четверика; зрительно она воспринимается как его пьедестал. Завершает композицию группа огромных пучинистых глав, увенчанных ажурными крестами. Они покоятся на массивных барабанах, высота которых вместе с главами (до подкрестного шара) больше высоты самого храма. На восточных углах поднимаются, как воины-стражи, глухие шатры двух приделов с миниатюрными главками, подчеркивающие общее пирамидальное построение памятника.
Замечательная пропорциональность отдельных частей здания создает впечатление его максимальной уравновешенности и завершенности. Эта основная черта архитектуры церкви Иоанна Златоуста была впоследствии перенесена на весь ансамбль.
Одной из важнейших особенностей памятника стал его незабываемый силуэт, изысканные линии которого особенно четко рисуются со стороны реки на фоне вечернего заката. Утром силуэт храма царит над слободой, возникая при восходе солнца как чудесное творение безвестных мастеров, создавших здесь один из самых совершенных ярославских памятников.
Декоративное убранство восточного фасада церкви Иоанна Златоуста рассчитано на дальнее восприятие с реки. Скромные кирпичные детали подчеркивают его основные членения. На апсидах это цоколь, карниз, граненые полуколонки между алтарными полукружиями и плоские, словно нарисованные, наличники боковых окон. Выше — горизонтальный кирпичный поясок, короткие лопатки-основания для архивольтов первоначального закомарного покрытия. В отличие от церкви Рождества с ее явно декоративным характером завершения здесь этот кирпичный поясок сравнительно прост и как бы выявляет на фасадах внутреннюю конструкцию здания.
С тем же расчетом на дальнее восприятие выполнен и великолепный изразцовый наличник центрального окна, появившийся здесь примерно через 40 лет после постройки храма. Ярким пятном выделяется он на фоне алтарной стены. Красивая, плавная, заостренная кверху кривая оконтуривает многоцветные изразцы с крупным сочным орнаментом. Только подойдя к памятнику вплотную, можно ощутить громадные размеры наличника. Высота его 8 м, ширина около 5 м. Давно уже признанный шедевром изразчатого искусства Ярославля, он стал его своеобразным символом.
Очень просто и изящно оформлены шатровые приделы. Группа небольших кокошников смягчает переход от четырехгранного основания к восьмерику и далее к шатру, напоминая декор Ризположенского придела церкви Ильи Пророка. Очарователен своеобразный рисунок кирпичных наличников верхних окон.
Необычайно пластичные формы кувшинообразных столбов галерей храма, перехваченных кирпичными поясами, с декоративными архивольтами опирающихся на них арок созданы под несомненным влиянием великолепного убранства фасадов церкви Рождества. В крайних восточных постаментах этих столбов сохранились красные неполивные изразцы. Очевидно, такие же изразцы украшали вначале и столбы галереи и лишь позже были заменены многоцветными. Они изготовлялись неподалеку от строившейся церкви Иоанна Златоуста, в керамической мастерской на территории Коровницкой слободы.
В 1680-х гг. фасады церкви Иоанна Златоуста были значительно перестроены. В четверике были прорублены широкие прямоугольные окна, окаймленные наличниками, а на его западных углах вместо плоских лопаток появились пучки полуколонок с белокаменными капителями и изразцовыми вставками. В новом декоративном убранстве храма сказалось стремление приблизить его к облику современных ему нарядных построек. Выполненный с большим мастерством новый декор превратил церковь Иоанна Златоуста в один из самых живописных памятников периода наивысшего расцвета ярославского зодчества.
Особенно хороши выстроенные в это время крыльца, островерхие кровли которых прекрасно подчеркнули выразительный силуэт памятника. Их высокие фронтоны украшены великолепными орнаментальными композициями из изразцов. Входные арки с белокаменными гирьками тончайшей резьбы являются лучшими образцами этого характерного для Ярославля декоративного приема (илл. 49). При последующей закладке проемов первоначально открытой галереи строители стремились сохранить и выявить великолепную пластику столбов, подрезая новую кладку в местах примыкания. Оконные проемы в заложенных частях галереи украшены наличниками, декоративные неповторяющиеся формы которых отличаются большой пышностью (илл. 49).