В штабе восставших все еще лихорадочно ждали вестей, что на помощь идут русские и английские отряды – никто на помощь не шел. Наконец, видя невозможность продолжать дальнейшее сопротивление, генерал Карпов, которому Перхуров передал командование, поверил провокационному предложению немецкого лейтенанта Балка. Балк прибыл в Ярославль еще до начала восстания с Германской военной комиссией, которую он возглавлял, для взятия на свое попечение около 1000 германских военнопленных, находящихся в Ярославле. Согласно Брестскому мирному договору, германские военнопленные освобождались от плена и переходили на положение дружеских военных частей, временно находящихся на территории России до своей эвакуации на родину – в Германию. Они получали статус неприкосновенности и подчинялись только своей Военной комиссии, которая в свою очередь подчинялась германскому посланнику в Москве, графу Мирбаху. Предложение Балка заключалось в том, чтобы повстанцы, как вооруженная часть русской армии, не признающая Брест-Литовского мира и продолжающая считать себя союзниками Англии и Франции и, следовательно, находящаяся в состоянии войны с Германией, сдалась бы в плен Германской военной комиссии. Таким образом, повстанцы обретали статус военнопленных, находящихся под стражей немецких солдат. Балк гарантировал им неприкосновенность и обещал не выдавать их советским властям.
Эта замысловатая комбинация, как и следовало ожидать, закончилась трагически. Узнав, что часть повстанцев перешла на положение «военнопленных», советское командование повело генеральное наступление. Однако часть повстанцев, не поверившая Балку, оказала красным самое ожесточенное сопротивление и не позволила им ворваться в центр города. Оперативная сводка, переданная в Москву Военно-революционным комитетом Ярославской губернии, характеризовала итог боя следующим образом: «Наступление 20 июля, подготовленное огнем тяжелой артиллерии, вследствие усталости наших частей не привело к занятию всего города, но отдало в наши руки все главные подступы».
Ночью на 21 июля небольшой части повстанцев удалось прорваться через Романовскую заставу и разойтись по деревням, где их скрывали крестьяне, чтобы позднее, переодевшись в крестьянское платье, пробраться на Урал и продолжать борьбу с большевиками.
21 июля, не встречая сопротивления, красные полки заняли весь город. Дымящиеся и заваленые грудами кирпича, битого стекла, исковерканного железа с крыш, улицы были покрыты трупами и стонущими ранеными, которых тут же приканчивали штыками красные янычары. Интернационалисты и стрелки врывались в уцелевшие от пожара дома; гонялись по дворам и садам за скрывающимися, хватали их, куда-то уводили. Сдавшиеся в плен лейтенанту Балку повстанцы были выданы большевикам в первый же день. Об их судьбе откровенно и цинично сообщила позднее «Красная книга ВЧК» (1-й выпуск): «Председатель Германской комиссии лейтенант Балк приказом за № 4, 21 июля 1918 года, объявил гражданскому населению г. Ярославля, что Ярославский отряд Северной добровольческой армии сдался вышеозначенной Германской комиссии. Сдавшиеся были выданы большевистской власти и в первую очередь 428 из них были расстреляны». Это только в первый день, а о дальнейших расстрелах в Ярославле и его окрестностях сообщает обстоятельно историк и публицист Мельгунов в своей книге «Красный террор»: «По моей картотеке насчиталось за это время в тех же территориальных пределах 5004 карточки расстрелянных. Мои данные, как я говорил, случайные и неполные; это преимущественно то, что опубликовывалось в газетах, и только в газетах, которые я мог достать».
Нужно считать, что по приказу Ленина всего было расстреляно не меньше 6000 человек, и не только повстанцев, но и их родственников, в том числе и женщин.
Побежденный Ярославль представлял жуткое зрелище. На протяжении целых кварталов вместо домов на грудах развалин возвышались лишь почерневшие трубы. Из 7618 жилых строений от советских снарядов сгорело до основания 2147 и почти столько же имели повреждения от разрывов. Сгорели табачная и спичечная фабрики, четыре войлочных завода, завод свинцовых белил, лесопильный и механический заводы, три больницы и многие городские здания. От здания Демидовского лицея, с его богатейшей библиотекой, осталась груда обгорелых кирпичей. Совершенно без крова осталось около 30 тысяч жителей.
Знаменательно, что исход сражения, как в Москве и в Казани, был решен чужими интернациональными силами. Это признается и советчиками. Советский публицист Л. Генкин в своей книге «Ярославские рабочие в годы гражданской войны» между прочим отмечает: «В разгроме мятежников участвовали интернациональные отряды и подразделения, в составе которых находились чехи, словаки, венгры, поляки, китайцы и другие интернациональные революционеры».