Перешедший на службу в Московский главный архив Министерства иностранных дел А.Я.Булгаков 27 августа 1809 года женился на княжне Наталье Васильевне Хованской и с той поры жил в Москве, в течение с лишком полувека почти без перерыва. Брат его Константин, приезжавший перед тем из Вены в Россию и бывший (кажется) при кончине своих родителей, поехал в Петербург хлопотать о наследстве после отца. У Я. И. Булгаков а, кроме известной нам сестры Мавры Ивановны Приклонской (дочь которой Елизавета Васильевна была замужем за князем Сергеем Ивановичем Голицыным), была еще сестра, и у нее остались три дочери: Александра, Вера и Анна Петровны: сия последняя была за Колтовским, и она-то предъявила права малолетнего племянника своего Николая (фамильное имя его нам неизвестно), состоявшего под ее опекою, на имения своего знаменитого дяди. Тяжба эта в Государственном совете была решена в пользу Булгаковых, но противная сторона подала жалобу государю. Приказано было пересмотреть дело, и чтобы оно шло обычным порядком. Ради этого в ноябре 1809 года А.Я.Булгаков ездил в Петербург, где долго оставался младший брат его, следя за ходом тяжбы.
Александр Яковлевич с молодой женою и малолетними двумя сестрами своими по матери, Шумлянскими, продолжал жить и проживаться в Немецкой слободе, в богатом доме покойного отца своего, и думал уже хлопотать о получении места с обеспечивающим жалованьем, теряя надежду выиграть тяжбу. Между тем Константин Яковлевич назначен был в Молдавию правителем канцелярии нашего главнокомандующего в войне с Турцией графа Н.М.Каменского. Таким образом, братья снова были в продолжительной разлуке, и от них осталась за это время переписка, из которой извлекаем черты биографические, бытовые и имеющие общую занимательность, опуская мелкие частности и то, что неудобно для печати.
Александр. Москва, 5 августа 1809 года
Я надеюсь, что молитвами тебя любящих ты благополучно приближаешься к Петербургу, милый и любезный брат. С великим нетерпением ожидаю первое твое письмо, дабы успокоиться, узнав, что ты путь совершил без всяких припадков, здоров и приступил к делу, столь много влияния на будущее наше благоденствие имеющему. Весь город теперь оным наполнен. Утешительно мне видеть, что генерально все одно говорят: наши неприятели покрыли себя омерзением всеобщим и бесславием; все берут нашу сторону и не сомневаются в успехе.