Анатолий Александров родился 13 февраля 1903 года в городе Тараща. В возрасте трех лет он потерял мать и был воспитан бабушкой. С 1916 года начал заниматься в физико-химическом кружке средних школ Киева и организовал там электротехническую группу. В 1919 году, в разгар Гражданской войны, окончил Киевское реальное училище и в шестнадцать лет стал юнкером, служил пулеметчиком в Русской армии Врангеля, за что был награжден тремя георгиевскими крестами.
Александров работал электромонтажником и электротехником, зарабатывая на жизнь. С 1924 по 1930 год он учился на физико-математическом факультете Киевского национального университета имени Тараса Шевченко, совмещая учебу с преподаванием физики и химии в одной из киевских школ.
После окончания университета Анатолий Александров работал в Национальном медицинском университете имени А. А. Богомольца в рентгено-физическом отделе, а затем в Физико-техническом институте имени А. Ф. Иоффе Российской академии наук. Там он совместно с Серафимом Журковым и Павлом Кобеко разработал статистическую теорию прочности.
Весной 1931 года он начал работать в Ленинградском Политехническом Институте имени М. И. Калинина, где позднее защитил кандидатскую и докторскую диссертации в физико-математических науках.
Перед началом Великой Отечественной войны Анатолий Александров совместно с Игорем Курчатовым и Владимиром Тучкевичем разработал метод защиты кораблей от магнитных мин, который успешно применялся на советском военном флоте и гражданских судах.
Участвовал в создании атомного оружия с 1943 года, работая как заместитель Игоря Курчатова в Лаборатории № 2 Академии Наук СССР. Также был вовлечен в создание судовых энергетических установок для атомных ледоколов и первой в СССР атомной подводной лодки с ядерной двигательной установкой.
В 1960-е годы по его инициативе в Институте атомной энергии имени Курчатова была построена крупнейшая в СССР установка по сжижению гелия, что способствовало развитию исследований по физике низких температур и сверхпроводимости.
В 1988 году Анатолий Александров стал почетным директором Института атомной энергии имени Курчатова. Он скончался 3 февраля 1994 года в возрасте 91 года и был похоронен на Митинском кладбище в Москве.
