Саша Толстой родился в семье генерала Ивана Толстого. Его мать была дочерью графа Андрея Остермана, сподвижника Петра Великого. Из рода его предков были и генерал-аншеф Матвей Толстой, и генерал-поручик Иван Бибиков. В 1796 году Екатерина II позволила молодому Толстому принять титул, фамилию и герб рода графов Остерманов от его бездетных двоюродных дедов Фёдора и Ивана Остерманов.
Согласно обычаям того времени, Сашу отправили на военную службу в лейб-гвардии Преображенский полк в раннем возрасте. К 14 годам он уже числился прапорщиком и начал свою службу в полку. В русско-турецкой войне он проявил себя, командуя десантным отрядом во время штурма Измаила, и был награжден орденом Святого Георгия 4-й степени.
В 1798 году он стал генерал-майором и стал шефом Шлиссельбургского мушкетёрского полка. Однако при Павле I он вынужден был покинуть военную службу и перейти на гражданскую в чине действительного статского советника.
Вернувшись на военную службу после воцарения Александра I, он принял участие в войнах против Наполеона. Его подразделения отличились в битвах при Пултуске и Прейсиш-Эйлау. Во время сражения при Гуттштадте он был ранен в ногу.
Он не принял условия Тильзитского мира и конфликтовал с Беннигсеном, что вызвало недовольство Александра I, и в 1810 году его вторично уволили с военной службы.
В Отечественной войне 1812 года он вернулся и командовал 4-м пехотным корпусом. Его корпус участвовал в Бородинском сражении и принял активное участие в преследовании французской армии.
В 1813 году он был тяжело ранен во время битвы при Кульме, где ему пришлось ампутировать руку. Он остался в армии до апреля 1813 года, когда вернулся в строй. Он отличился в сражении при Бауцене и достиг апогея славы в битве при Кульме, где его отряд, несмотря на сильное численное превосходство французов, сумел отразить их атаки.
Остерман-Толстой прожил до 86 лет и скончался в 1857 году