Фигура Остермана была совершенно непонятна и чужда русскому придворному окружению. Непонятна была его крайняя осторожность, подозрительность и недоверчивость ко всем, даже самым близким людям. Имея острый, сметливый ум, он усвоил непривычные русским манеры: умел ловко притворяться больным и немощным, легко при случае пускал слезу и умилялся по любому поводу, одновременно придумывая собеседнику коварную ловушку. Одерживая верх над простодушными, он торжествовал внутренне, никогда не показывая своего превосходства, проявляя скорее льстивость в отношениях. И тем не менее ко всем русским без исключения он в глубине души относился свысока. Работая много лет с посольскими делами, он усвоил себе манеру такого туманного способа выражения мыслей, что лишь очень немногие могли похвастаться, что понимают его речи полностью. Каждое его высказывание, каждое письмо могли быть при желании истолкованы в противоположных смыслах. Пожалуй, главным его качеством было трудолюбие. Чуждый русской культуре, несмотря на семейные связи, он любил только свою работу, только ею интересовался: Андрей Иванович не был корыстолюбив, не крал и не мздоимствовал, не копил богатств неправедным путем. Россия была для него лишь ареной для непонятного окружающим честолюбия. И, наверное, точно так же он трудился бы в любой другой стране. Но работником он был отменным.

После смерти Екатерины — он на стороне Меншикова и из рук последнего получает звание «воспитателя» юного императора Петра Второго. И притом едва ли не он последним и подтолкнул светлейшего к опале. В кабинете Голицыных и Долгоруких Остерман всячески демонстрирует свою преданность аристократам, но тем не менее уклоняется от подписания кондиций, ограничивающих самодержавную власть. И, как только чаша весов начинает склоняться в сторону монархически настроенных лидеров дворянства, предает «верховников» и становится первым советчиком будущей императрицы.

В 1730 году Анна возводит его в графское достоинство. Бирон ценит его, но не любит и пытается разными путями уравновесить влияние Остермана на деятельность Кабинета. Одною из таких попыток явилось назначение Волынского кабинет-министром в 1738 году, и позднее сам фаворит оказался орудием возмездия Остермана, убравшего со своего пути неудобного ему вельможу.

Современники не расходятся в своих оценках Андрея Ивановича. Так, дюк Лирийский в своих «Записках» отмечает: «...Он имел все нужные способности, чтобы быть хорошим министром, и удивительную деятельность. Он истинно желал блага Русской земле, но был коварен в высочайшей степени, и религии в нем было мало, или лучше, никакой; был очень скуп, но не любил взяток. В величайшей степени обладал искусством притворяться и с такою ловкостию умел придавать лоск истины самой явной лже, что мог бы провести хитрейших людей. Словом, это был великий министр, но поелику он был чужеземец, то немногие из русских людей любили его, и потому несколько раз был он близок к падению, однако же всегда умел выпутываться из сетей...» Клавдий Рондо писал об Остермане: «...Он имеет хорошие познания в новейших языках, но плохо знает латинский. Никак нельзя отнять у него ума и ловкости, но он преисполнен изворотливости и лукавства, лжив и обманчив; в обращении угодлив и вкрадчив; принимает личину чистосердечия и низкопоклонения; это качество считается вернейшим залогом успеха у русских, а он превосходит в нем даже русских. Он любит пожить (He is a bon-vivant — кутила, весельчак), довольно щедр, но неблагодарен».