Однако руководить Южно-Уральским краем генералу не довелось. 12 сентября 1919 года Верховный правитель России адмирал Колчак назначил Дутова командующим разгромленной красными Оренбургской армией, которая безостановочно отступала по голой, безлюдной степи, испытывая недостаток продовольствия. Одному из своих офицеров атаман тогда сказал:
«Все те трудности, лишения и разные невзгоды, которые претерпели войска, не поддаются описаниям. Лишь беспристрастная история и благодарное потомство по достоинству оценят боевую службу, труд и лишения истинно русских людей, преданных сынов своей Родины, которые ради спасения своей Отчизны самоотверженно встречают всякие мучения и терзания».
В марте 1920 года частям Дутова пришлось покинуть родину и отступить в Китай через ледниковый перевал, расположенный на высоте 5800 метров. Обессилевшие люди и кони шли без запаса еды и фуража, следуя по горным карнизам, случалось, срывались в пропасть. Самого атамана перед границей спустили на канате с отвесной скалы почти без сознания. Отряд был интернирован в Суйдине и расположился в казармах русского консульства. Дутов не терял надежды возобновить борьбу с большевиками и пытался объединить под своим началом всех бывших белых воинов. За деятельностью генерала с тревогой следили в Москве. Лидеров Третьего интернационала пугало наличие значительных организованных и закаленных годами борьбы антибольшевистских сил вблизи границ советской России. Было принято решение ликвидировать Дутова. Выполнение этой щекотливой миссии возложили на Реввоенсовет Туркестанского фронта. Под видом единомышленника к атаману проник советский агент Махмут Хаджаиров. И 6 февраля 1921 года он застрелил Дутова в его квартире. Два казака из охраны генерала получили смертельные ранения.