Александр Иванович Зыгин начал свою военную службу в Русской императорской армии в августе 1915 года и служил до декабря 1917 года. После Февральской революции 1917 года вступил в Красную гвардию, а затем в Красную армию с августа 1918 года. Прошел обучение в различных военных учебных заведениях, включая Чистопольскую школу прапорщиков и курсы «Выстрел». В Первую мировую войну был мобилизован и принял участие в боях на Кавказском фронте против турецких войск.
В Гражданскую войну принял активное участие, вступив в Красную гвардию и командуя Мартыновским партизанским отрядом. Сражался с белогвардейскими силами и показал себя выдающимся организатором и военачальником. После окружения своего отряда помог организовать выход из окружения и присвоен звание генерал-майора за подвиги на поле боя.
Затем Зыгин продолжал служить в Красной Армии, занимая различные должности военного командования и руководства. В разные периоды времени он командовал различными дивизиями и армиями, участвовал в наступательных и оборонительных операциях, а также прошел обучение в военной академии.
Свой последний бой Зыгин учинил в сентябре 1943 года, командуя 20-й армией Западного фронта. Позже он был назначен командующим 4-й гвардейской армией Воронежского фронта и участвовал в битве за Днепр. Однако 27 сентября 1943 года он погиб, столкнувшись с минным полем.
Награжден орденом Ленина, 2 орденами Красного Знамени, орденами Кутузова 1-й ст., Красной Звезды, медалью «XX лет РККА».
Алексей Иванович погиб в возрасте 47 лет. Похоронен в г. Полтаве, в Петровском парке Полтавы. В 1969 году останки его были перенесены в Полтавский Мемориал Солдатской Славы.