Въ 1805 году, вскорѣ послѣ того, когда оберъ-прокуроръ Синода Яковлевъ сдѣлался жертвою интригъ высшаго духовенства, Голицынъ, только вдвоемъ, обѣдалъ съ государемъ. Во время обѣда императоръ сказалъ ему: «Я, Александръ Николаевичъ, имѣю на тебя виды». — Готовъ исполнитъ по-велѣнія вашего величества, отозвался Голицынъ. — «Я назначаю тебя оберъ-прокуроромъ святѣйшаго синода».
Голицынъ возразилъ, что онъ вовсе не приготовленъ къ этой должности и что государю извѣстны и образъ его мыслей и образъ его жизни. «Ты можешь отговариваться какъ тебѣ угодно, но все же ты будешь синодскимъ оберъ-прокуроромъ», отвѣчалъ государь.
Голицынъ рѣшился принять такое назначеніе, но обусловилъ свою службу на новомъ мѣстѣ тѣмъ, чтобы имѣть у государя личный докладъ по синодскимъ дѣламъ. Съ своей стороны государь, чтобы не такъ рѣзко измѣнить существовавшій тогда въ этомъ отношеніи порядокъ, назначилъ Голицына своимъ статсъ-секретаремъ.
Вступивъ въ предоставленную ему должность, Голицынъ прежде всего постарался ознакомиться основательно съ церковными дѣлами и вопросами. Онъ первый разъ въ своей жизни сталъ читать «Новый Завѣтъ» и, подъ предлогомъ должностныхъ занятій, началъ уклоняться отъ тѣхъ удовольствій и развлеченій, которымъ онъ сперва такъ страстно предавался.
Новый оберъ-прокуроръ прежде всего обратилъ свое вниманіе на образованіе православнаго духовенства, и вслѣдствіе его стараній были учреждены три новыя духовныя академіи.
Въ 1808 году, Голицынъ сопровождалъ, вмѣстѣ съ Сперанскимъ, государя въ Эрфуртъ для свиданія съ императоромъ Наполеономъ I. Когда Александръ Павловичъ представлялъ Голицына Наполеону, то этотъ послѣдній спросилъ: «celui du synode?» и, получивъ утвердительный отвѣтъ, заговорилъ объ отмѣнѣ Петромъ Великимъ патріаршества въ Россіи и объ учрежденіи, взамѣнъ его, синода и восхвалялъ разумность такой мѣры.
Въ Эрфуртѣ, среди нескончаемыхъ торжествъ, празднествъ, военныхъ смотровъ и баловъ, оберъ-прокуроръ восхищался игрою знаменитаго Тальмѣ, внимательно слѣдилъ за этикетомъ и обстановкою новаго императорскаго двора и пріятельски сошелся съ маршаломъ Ланномъ, герцогомъ де-Монтебелло.
Въ 1810 году, Голицынъ, оставаясь въ должности оберъ-прокурора синода, былъ назначенъ главноуправляющимъ дѣлами иностранныхъ исповѣданій, т. е. римско-католическаго, уніатскаго, армянскаго, евангелическо-лютеранскаго и реформатскаго. Ему были подвѣдомственны также дѣла исповѣданій еврейскаго и магометанскаго. Въ 1816 году, Голицынъ былъ назначенъ министромъ народнаго просвѣщенія. Въ 1818 году, 1-го января, открыло свои дѣйствія вновь учрежденное министерство духовныхъ дѣлъ и народнаго просвѣщенія. Голицыну было предоставлено управленіе этимъ министерствомъ, а на должность оберъ-прокурора святѣйшаго синода былъ назначенъ князь Мещерскій, въ прямомъ подчиненіи Голицыну, какъ министру. Новое министерство состояло изъ двухъ департаментовъ: департамента духовныхъ дѣлъ и народнаго просвѣщенія. Директоромъ послѣдняго былъ дѣйствительный статскій совѣтникъ Василій Васильевичъ Поповъ, а директоромъ перваго — дѣйствительный статскій совѣтникъ Александръ Ивановичъ Тургеневъ.
Теперь порядокъ по разрѣшенію синодскихъ дѣлъ установился прежній. Новый оберъ-прокуроръ не имѣлъ уже личнаго доклада у государя, и теперь, — какъ до назначенія Голицына на должность оберъ-прокурора, когда синодскія дѣла доходили до высочайшаго усмотрѣнія черезъ министра юстиціи, — они стали доходить черезъ министра духовныхъ дѣлъ, такъ что, въ сущности, Голицынъ оставался, по прежнему, оберъ-прокуроромъ, а князь Мещерскій былъ только его помощникомъ.
Голицынъ, по словамъ Гётце, былъ такой прекрасный начальникъ, что лучшаго нельзя было и желать. Это, говоритъ Гётце, могли подтвердить всѣ, кто только зналъ князя. Трудно найти министра, который бы такъ мало обращалъ вниманіе на пустыя мелочи и ни къ чему не ведущія формальности и который, не теряя изъ виду главной сути дѣла, высказывалъ бы ясное и точное мнѣніе. Онъ не гонялся за пустяками и не обнаруживалъ никогда дурнаго расположенія духа. Кромѣ того, онъ — что допускаетъ рѣдкій министръ — дозволялъ дѣлать ему возраженія.
Князь Александръ Николаевичъ, не получивъ основательнаго образованія, тѣмъ не менѣе, при врожденныхъ его способностяхъ, пріобрѣлъ большой навыкъ къ служебнымъ занятіямъ и, по замѣчанію Гётце, могъ бы быть настоящимъ государственнымъ человѣкомъ, если бы только по временамъ интриганы не сбивали его съ прямаго пути. Онъ умѣлъ совершенно вѣрно оцѣнивать труды своихъ подчиненныхъ, чѣмъ, какъ извѣстно, отличаются весьма немногіе министры. Онъ обладалъ замѣчательнымъ даромъ слова и не пользовался никогда своею силою, чтобы выдвинуть въ люди своихъ родственниковъ. Гётце, близко знавшій Голицына, восхваляетъ ту благотворительность, какую онъ оказывалъ, какъ частный человѣкъ, нуждавшимся и бѣднымъ людямъ.