Алексей Константинович Толстой родился 5 сентября 1817 года в городе Санкт-Петербурге. Его отец, граф Константин Петрович, был старшим братом художника Федора Толстого. Мать Анна Алексеевна Перовская была воспитанницей графа Алексея Разумовского. Родители разошлись сразу после рождения Алексея, и его воспитывал дядя по матери, Антоний Перовский, автор сказки «Черная курица».
Толстой получил образование на словесном отделении Московского университета, закончив его в 1836 году. В это время он служил в Московском архиве Министерства иностранных дел, а затем на дипломатической и военной службе. С 1843 года занимал различные придворные должности.
Литературную деятельность начал с 1840 года, проявив талант в создании стихов и баллад. Его первая публикация — фантастическая повесть «Упырь» — была высоко оценена Виссарионом Белинским. С 1854 года Толстой сотрудничал с братьями Жемчужниковыми, печатая стихи и пародии в журнале «Современник» от имени Козьмы Пруткова.
В конце 1850-х годов он сотрудничал с журналом «Русская беседа» и затем публиковался в «Русском вестнике» и «Вестнике Европы». В 1861 году отошел от придворной службы и полностью посвятил себя литературе, написав поэму «Дон Жуан», роман «Князь Серебряный» и историческую трилогию о царях.
В последние годы жизни Толстой работал над балладами и поэмами, изображая исторические конфликты и различные характеры. Он также писал лирические стихи, простые и задушевные, близкие к народной песне. Алексей Толстой был избран членом-корреспондентом Императорской Санкт-Петербургской академии наук в 1873 году, вместе со Львом Николаевичем Толстым.
Он скончался 10 октября 1875 года в селе Красный Рог Брянской области от передозировки морфия. Похоронен в Красном Роге, где находится Музей-усадьба писателя.