Александр Николаевич Боголюбов родился 16 (29) мая 1900 года в Чебоксарах и был крещён в чебоксарской Крестовоздвиженской церкви.
Его отец, Николай Матвеевич Боголюбов, был выходцем из чувашского села Богатырёво (ныне Цивильский район Чувашской республики). Он служил механиком на речном пароходе, но заболел туберкулёзом и умер в возрасте 42 лет. Мать, Надежда Ивановна, работала на местном спиртзаводе и подрабатывала стиркой белья и уборкой господских квартир.
В 1916 году Александр окончил Чебоксарское высшее начальное училище и устроился на работу на Чебоксарский телеграф учеником. После окончания 4-месячных курсов почтово-телеграфного работника он начал работать сортировщиком писем.
Летом 1918 года, когда белочехи и белогвардейцы подняли мятеж и захватили Казань, Боголюбов добровольно вступил в ряды Красной Армии, где был назначен телеграфистом в штаб второй армии Восточного фронта. В составе Красной Армии он участвовал в Гражданской войне.
В период с 1920 по 1938 год Боголюбов окончил несколько военных учебных заведений: Высшую военную школу дислокации (1920), Высшую военную школу связи (1924), Военную академию имени М. В. Фрунзе (1931) и Военную академию Генерального штаба (1938). Он учился на знаменитом «маршальском курсе», среди выпускников которого были 4 будущих Маршала Советского Союза, 6 генералов армии, 8 генерал-полковников и 1 адмирал.
С 1924 года Боголюбов занимал должности командира взвода, роты, батальона, а с 1931 года — начальника штаба, командира полка связи, начальника связи и оперативного отдела штаба стрелкового корпуса. В 1938 году он стал преподавателем в Академии Генерального штаба РККА и написал ряд военно-исторических работ.
С началом Великой Отечественной войны полковник Боголюбов был назначен начальником оперативного отдела штаба Резервного фронта. В октябре 1941 года он стал начальником штаба 43-й армии. В августе 1942 года генерал-майор Боголюбов был переведён на должность заместителя начальника оперативного управления Генерального штаба, а в сентябре 1942 года вновь назначен начальником штаба 43-й армии.
В декабре 1942 года Боголюбов стал первым заместителем начальника оперативного управления Генерального штаба. Затем он поочерёдно занимал должности начальника штаба Северо-Западного фронта (с марта по 11 ноября 1943 года), 1-го Украинского фронта (с 11 ноября 1943 года по 24 апреля 1944 года) и 2-го Белорусского фронта (с 5 мая 1944 года до июня 1945 года).
Указом Президиума Верховного Совета СССР от 29 мая 1945 года генерал-полковник Боголюбов был удостоен звания Героя Советского Союза с вручением ордена Ленина и медали «Золотая Звезда» (№ 5544).
В июне 1945 года Боголюбов был назначен начальником штаба Северной группы войск. С октября 1945 года до августа 1950 года он был начальником оперативно-тактического цикла, кафедры и заместителем начальника Военной академии им. М. В. Фрунзе. С марта 1951 года до августа 1953 года он служил помощником главнокомандующего войсками Дальнего Востока, а с сентября 1953 года по октябрь 1955 года — заместителем начальника Главного управления боевой и физической подготовки Сухопутных войск. В октябре 1955 года генерал-полковник Боголюбов ушёл в запас.
Александр Николаевич Боголюбов умер 28 февраля 1956 года в Москве и был похоронен на Новодевичьем кладбище.