Успешно справляясь с горцами, Ф. Я. Бурсак относился с особенным вниманием и заботливостью к нуждам казачества. При этом атамане малочисленное войско было пополнено переселением в Черноморию малороссийских казаков. В то же время Ф.Я. деятельно заботился об образовании населения и развитии промышленности в крае. При Бурсаке, 14 декабря 1806 г., было открыто в Екатеринодаре первое училище для казачьих детей. Благодаря Бурсаку же, была заведена войсковая суконная фабрика и устроены конские и овчарные заводы.
Но, среди столь усиленной и полезной для края деятельности войскового атамана, годы брали свое. В 1815 году старик-атаман, желая сложить с себя многотрудные атаманские обязанности, просил Государя Александра Павловича уволить его в отставку, чтобы воспользоваться отдыхом на закате своих дней. Государь благосклонно принял просьбу и приказал атаману назначить себе преемника. Этим избранником Ф. Я. Бурсака оказался подполковник Матвеев.
Григорий Кондратьевич Матвеев
До назначения войсковым атаманом Г. К. Матвеев занимал должность непременного члена войсковой канцелярии и состоял в чине подполковника. И по летам, и по служебным преимуществам он уступал многим из казачьих старшин, и поэтому его назначение атаманом было для казаков своего рода неожиданностью.
Существует указание, что Матвеев был крепостным графа Разумовского, от которого бежал к черноморцам во время второй турецкой войны. Здесь он, благодаря частью своим личным качествам, а частью благоприятно сложившимся обстоятельствам, скоро стал видным членом казачьего товарищества. В 1787 году он участвовал вместе с другими казаками в поражении турецкого флота под Очаковом, во взятии Березани и в штурме Очакова, в 1789 году – во взятии Бендер, в 1790 – в истреблении неприятельского флота под Измаилом и во взятии штурмом самого Измаила. В этом году Матвеев был произведен в полковые хорунжие, а в следующем 1791 году, за взятие батареи против Браилова, – в прапорщики. С переходом Черноморского войска на Кубань Матвеев попал в отряд Антона Головатого при походе в Персию, где и произведен был в есаулы. В 1807 году, во время турецкой войны, будущий атаман числился в составе Черноморского пешего сборного полка за Дунаем и, когда командир этого полка полковник Паливода был убит неприятелем, занял место своего начальника, будучи в это время уже войсковым старшиной. С этого времени судьба, по-видимому, стала особенно благоприятствовать Матвееву; он быстро получает награду за наградой: 22 мая 1810 года за храбрость при взятии Силистрии Матвеев награжден орденом св. Анны IV ст., 4 июня того же года он получил орден св. Георгия IV степ., храбро прорвавшись с казаками, под сильным неприятельским перекрестным огнем, с правого фланга армии на левый между Рущуком и Журжею, затем 2 июля, выказавши особую храбрость при поражении выше Рущука турецкой флотилии с десантом, он произведен был в подполковники, наконец, 26 августа награжден снова орденом св. Владимира IV степени за участие в поражении турецкой армии под местечком Батак. 22 августа 1816 года, после поражения турецкой флотилии под городом Ломпаланкой, Матвеев получил за храбрость орден св. Анны II степени. По окончании турецкой войны Григорий Кондратьевич, сдавши полк, возвратился в Черноморию, где и занял должность непременного члена войсковой канцелярии, пока не был назначен 12 марта 1816 года войсковым атаманом.