Когда мальчик подрос и стал юношей, отец поместил его в университет в Иене. Там юный студент поссорился с одним из товарищей, вызвал его на дуэль и ранил. Опасаясь наказания, он бежал в Амстердам, где в то время адмирал Крюйс, по поручению императора Петра I, набирал людей для службы в России. Юноша нанялся в числе других и поехал в Россию, где он думал занять скромное место учителя немецкого языка. Но судьба готовила ему более высокое положение. Быстро научившись по-русски, юноша как-то случайно обратил на себя внимание Петра, приобрел его доверие, и царь назначил его сначала переводчиком Посольского приказа (как тогда называлось ведомство иностранных дел), а затем секретарем этого учреждения.
Этот юноша был Генрих-Иоганн Остерман, который в России стал именоваться Андреем Ивановичем.
Ловкий, умный, сообразительный, он сумел приобрести расположение Петра. Царь стал ему поручать разные дипломатические дела и за удачное их выполнение дал ему звание вице-президента Коллегии иностранных дел. С вступлением на престол императрицы Екатерины I Остерман возвысился до ранга вице-канцлера, а когда императрицей стала Анна Иоанновна, он был в числе тех, которые советовали ей порвать условия, предъявленные Верховным тайным советом, и объявить себя самодержавной императрицей. Анна Иоанновна, ценя советы Остермана, наградила его графским титулом. С прибытием в Петербург Бирона Остерман стал одним из его близких друзей и советников во всех важнейших государственных делах. А когда, в виду приближения смерти Анны Иоанновны, возник вопрос, кого из сановников предложить умирающей императрице в качестве регента при малолетнем Иоанне Антоновиче, Остерман предложил составить бумагу, что «вся нация желает Бирона иметь регентом», и эта бумага, за подписью всех важнейших сановников, была представлена Анне Иоанновне.
Однако Остерман далеко не был полным сторонником Бирона во всех его мероприятиях, а когда наступило царствование Иоанна Антоновича и Бирон начал притеснять принцессу Анну Леопольдовну, Остерман занял сторону последней. И с падением Бирона он поэтому сохранил прежние звания и обязанности и сделался при дворе Анны Леопольдовны одним из самых первых и самых важных сановников.
Хитрый и изворотливый, Остерман всегда старался избегать всего, что могло навести на него неудовольствие. Если приходилось разрешать какой-нибудь щекотливый и сомнительный вопрос, при котором требовалось его решающее мнение, он притворялся больным, заявлял, что у него страшные колики, не являлся в совещание по такому вопросу и отказывался ставить свою подпись под нужными бумагами под предлогом, что у него «скрутило пальцы». И этим путем он не раз избегал опасности.
Зная о ссорах и интригах враждующих при дворе правительницы партий, Остерман пытался умиротворить всех, но в то же время как хитрый и умный дипломат старался постепенно очистить двор от всех тех лиц, на преданность которых он не рассчитывал.
С принцем Антоном Остерман старался сблизиться и в то же время прилагал усилия, чтобы отстранить от правительницы вице-канцлера Головкина, который становился ближайшим советником Анны Леопольдовны и, в свою очередь, стремился оттеснить Остермана.
Отличаясь большим умом и политической дальновидностью, Остерман сообразил, что положение маленького Иоанна Антоновича очень шаткое. Особенную опасность он предвидел со стороны цесаревны Елизаветы Петровны и ее приверженцев. Цесаревна часто бывала при дворе, делала вид, что очень дружна с Анной Леопольдовной, что предана ей и императору. Но Остерман ей не доверял. «Не может, — считал он, — цесаревна равнодушною быть к тому, что престол занят дальними родственниками Петра, в то время как она, дочь великого царя, совершенно отстранена». Он окружил ее шпионами, которые доносили ему о каждом шаге цесаревны, о том, где и у кого она бывает и кто у нее бывает, старались узнать, о чем разговаривает цесаревна с тем или другим из бывающих у ней лиц, какие у нее намерения и т. п.
Между рекой Мойкой и Лебяжьим каналом, недалеко от берега Невы, в глубине большого сада стоял один из дворцов, построенных при Петре Великом. В этом дворце жила цесаревна Елизавета Петровна с небольшим штатом прислуги.
Цесаревна жила уединенно, редко показывалась при дворе малолетнего императора и предпочитала кружок своих приближенных. То были: братья Алексей и Кирилл Разумовские, братья Александр и Петр Шуваловы, их двоюродный брат Иван Шувалов, Михаил Воронцов, Василий Салтыков, родственники цесаревны Скавронские, Ефимовские, Гендриковы и др. Все эти лица — ревностные сторонники цесаревны — собирались часто у нее по вечерам, то играли в карты, то слушали пение любимца цесаревны Алексея Разумовского, то проводили время в оживленной беседе, в которой живое участие принимала сама хозяйка дома. Такие собрания продолжались иногда до поздней ночи.