Убедившись в том, что поддержка Софьи не сулила ему ни вознаграждения вотчинами, ни успехов в карьере, Толстой переметнулся на сторону Петра, но тот к перебежчику долго не проявлял доверия, и Толстому пришлось прибегать к изворотливости, коварству, хитрости и унизительной услужливости для доказательства того, что он стал верным слугой царя. Чтобы угодить Петру, питавшему особую приязнь к людям, отправлявшимся за рубеж изучать военноморское дело, Толстой, будучи дедушкой, отправился в Италию волонтером. Судя по дневнику Толстого, его поездка за границу была своего рода жестом, ибо всерьез военно-морское дело и кораблестроение он не изучал, и хотя получил свидетельство об успешном его овладении, но плавал на корабле только в качестве пассажира. Дневник Толстого — убедительное свидетельство любознательности, наблюдательности и интереса автора к западноевропейской культуре, с которой он познакомился впервые.
Царь, надо полагать, был осведомлен, чем занимался волонтер в Италии, и счел целесообразным использовать его таланты не на флотской, а на дипломатической службе. Так, он отправил Толстого послом в Османскую империю, где тому пришлось преодолевать множество по-восточному хитроумных уловок, чтобы добиться уважительного отношения Османской империи к России.
Главная заслуга Толстого на дипломатическом поприще состояла в том, что он предотвратил нападение Османской империи на Россию в самый критический период Северной войны. Не менее важную услугу Петру Толстой оказал в 1716 году, когда вместе с гвардейским капитаном А. И. Румянцевым доставил в Москву беглого царевича Алексея. Толстой же возглавил следствие над царевичем в должности руководителя Тайной канцелярии — учреждения, занимавшегося политическим сыском.
В 1724 году Толстой блестяще выполнил роль главного распорядителя во время коронации Екатерины Алексеевны. Это оставило неизгладимый след в сознании признательной императрицы. Екатерина использовала Толстого в качестве противовеса безраздельному господству Меншикова, которым она иногда тяготилась.
Должно отметить, что Петр Андреевич не исповедовал высоких нравственных принципов и руководствовался девизом: цель оправдывает средства. Доказательством тому служит его расправа с людьми, находившимися в составе русского посольства в Стамбуле. Когда Толстому стало известно, что один из его подчиненных принял магометанскую веру и нависла угроза разоблачения православных, оказывавших услуги посольству информацией о намерениях султанского двора, он пригласил вероотступника на беседу и угостил отравленным вином.
Коварство он использовал и в Неаполе, когда добился согласия возлюбленной царевича Алексея, крепостной девки Евфросиньи, уговорить царевича вернуться в Россию. За эту услугу Петр Андреевич обещал женить на ней своего сына. Выполнять это свое обещание он конечно же не собирался. Эти два случая подтверждаются источниками. Третий — его участие в отравлении Марии Кантемир и появлении у нее выкидыша — на уровне слухов.
Толстой, Девиер, Бутурлин и другие искали случая встретиться с Екатериной, чтобы раскрыть ей глаза на опасность превращения Меншикова в царского тестя. Причем опасность эта грозила не только лицам, причастным к гибели царевича Алексея и возведению ее самой на престол, но и ее собственным дочерям.
Но Екатерина не то что не хотела, уже не могла предпринять меры, ущемлявшие светлейшего, — она была прикована к постели и покорно выполняла его волю. Меншиков настолько верил в успех, что позволил себе не нарушать раз принятого распорядка. Во всяком случае при чтении своеобразного дневника Меншикова, который вел кто-то из его слуг, — «Повседневных записок» — невозможно уловить накануне смерти Екатерины ни накала страстей, ни проявлений напряженности. Лишь более частые, чем прежде, встречи с Остерманом предвещали какие-то тревожные события.
У Остермана был верный нюх. Он не подвел его и на этот раз. Барон правильно рассудил, что в данный момент перевес сил на стороне Меншикова, и, будучи опытным интриганом, не скупился на советы, помогая князю добиться успеха. В течение двух недель, предшествовавших смерти Екатерины, Меншиков встречался с Остерманом семь раз. Насколько светлейший нуждался в советах барона, можно судить хотя бы по тому, что четыре из семи свиданий состоялись не у Меншикова, а у Остермана: Меншиков снизошел до того, что, преодолевая княжескую спесь, сам наносил визиты.
Ведя конфиденциальные разговоры с Остерманом, Меншиков пристально следил за состоянием здоровья императрицы. Иногда он навещал терявшую сознание Екатерину по нескольку раз в день. Светлейший повелел, чтобы никто из нежелательных лиц не входил в ее покои. 24 апреля 1727 года Екатерине стало легче, и Меншиков успел подсунуть ей указ о создании следственной комиссии над Девиером, который, как ему стало известно от доброхотов, выступил против его плана породниться с царствующей династией.