Несмотря на протесты графа Чернышева, приказ был исполнен в точности. Однако в эту же осень, по договору об обмене пленных, он вернулся из плена и в 1769 году командовал отдельным корпусом, а в 1761 г. взял Берлин. За удачный поход на Берлин граф Чернышев получил польский орден Белого Орла.
Со смертью императрицы Елизаветы Петровны ход дел внезапно изменился. Император Петр III заключил перемирие с Фридрихом Великим, а войска, вверив командование над ними графу Чернышеву, присоединил к прусской армии. Фридрих Великий возложил на графа орден Черного Орла.
По воцарении императрицы Екатерины II граф З. Г. Чернышев в августе 1762 г. получил приказ от императрицы о возвращении войск из Пруссии в Россию. Приказ этот был получен им в Богемии, где Фридрих Великий готовился атаковать Дауна, укрепившегося в горах Богемии.
Приказ императрицы сильно огорчил короля, так как совсем его ослаблял и лишал возможности одержать победу над австрийцами. Поэтому он просил Чернышева дня два или три не объявлять об этом повелении императрицы никому, а, скрыв его, постоять с корпусом своим в назначенном ему Фридрихом месте, хотя бы даже и без дела. Чернышев решился исполнить эту просьбу короля и поставил корпус в таком месте, что не знавшие еще ничего австрийцы принуждены были отделить значительную часть армии против мнимого неприятельского корпуса, чем значительно ослабили свои силы, а Фридрих, имея перевес, принудил неприятеля оставить почти неприступные Богемские горы. Таким образом, Чернышев, не приняв участия в сражении, оказал Фридриху великую услугу, за что щедро был одарен им.
Императрица пожаловала графа генерал-аншефом, а в день коронования, при котором Чернышев исполнял должность верховного церемониймейстера, - кавалером ордена св. апостола Андрея Первозванного (24-го сентября 1762 г.). С этого времени деятельность графа приняла другое направление. Период его военной деятельности заканчивается и начинается второй - гражданской деятельности, открывший широкое поле его необычайным административным способностям.
Удостоенный особенной доверенности императрицы в 1763 году, граф Чернышев был назначен вице-президентом Военной Коллегии.
22 сентября 1773 года Захар Григорьевич получил чин генерал-фельдмаршала и должность президента Военной Коллегии, хотя уже в следующем году (1774) должен был подать в отставку, так как помощником у него был Потемкин, который тогда уже был в силе и не любил быть подчиненным. Более десяти лет граф Чернышев управлял Военной Коллегией с большим успехом и искусством. При нем изданы штаты, положения и инструкции для полков, водворены в войсках лучший порядок и благоустройство. После присоединения Белоруссии, которому он много содействовал, граф Захар Григорьевич назначен был наместником Полоцкой и Могилевской губерний. Тут он не щадил трудов, чтоб поднять благосостояние и благоустройство вверенного ему края, и добился желаемого. Белоруссия была приведена в цветущее состояние, как по внешнему своему виду, так и по внутреннему устройству. Императрица Екатерина, проезжая по вверенным графу губерниям, сказала: “Если бы я сама не видела такого устройства в Белоруссии, то никому бы не поверила; а дороги ваши, как сады”.
Когда все эти работы были закончены, отношение местных жителей к Чернышеву изменилось: неудовольствие перешло в уважение и признательность. Угрюмый, по утрам даже неприступный, он был добрым, сердечным человеком. Трудолюбивый, дальновидный и справедливый, в делах был строг и требовал точного исполнения обязанностей. Хотя он не был одарен блистательными качествами полководца, но среди администраторов занимал первое место и всегда имел голос в советах государственных.
При свидании императрицы Екатерины с австрийским императором Иосифом II в Могилеве в 1780 году его ожидали милость и расположение государыни. Со дня въезда (24 мая) императрица пробыла в Могилеве до 30 мая. Встреча была устроена великолепная. В трех верстах от города была устроена триумфальная арка, где встретил ее граф Чернышев с чинами губернии и дворянством с их предводителями. Однако на второй день пребывания императрицы в Могилеве между графом Чернышевым и Потемкиным произошел инцидент, лишивший и самого графа, и его подчиненных царских милостей. Он состоял в следующем: граф первым к награде панагией представил епископа Георгия через Потемкина, который тогда был в силе. Потемкин, желая сделать приятное графу, доложил государыне, вынес панагию и сказал: “Извольте отнести сами желаемое вами награждение епископу”. Гордый и самолюбивый граф ответил: “У вас есть на то адъютанты, а я уж стар для рассылок”.
Потемкин, обидевшись на его ответ, пожаловался государыне; она разгневалась на Чернышева и стала обращаться с ним холодно. Щедрые награды орденами и чинами, которые были приготовлены для чиновников белорусских губерний, остались неутвержденными.