Михаил Ипполитов-Иванов родился 19 ноября 1859 года в городе Гатчина, Ленинградская область. Музыке учился с детства. Сначала, обучался игре на скрипке, а переехав в город Санкт-Петербург, получил музыкальное образование, окончив в 1875 году музыкальные классы для малолетних певчих при Исаакиевском соборе.
Непосредственно по окончании музыкальных классов, поступил в Петербургскую консерваторию в класс контрабаса, а затем, в класс «специальной теории музыки». Через несколько лет, в 1880 году, продолжил обучение в классе композиции Римского-Корсакова.
С 1882 года, Михаил Ипполитов-Иванов работал в городе Тбилиси, Грузия, где основал и возглавил отделение Русского музыкального общества. Являлся оперно-симфоническим дирижером и преподавателем музыкального училища.
Начиная с 1893 года, по приглашению Петра Чайковского, Ипполитов-Иванов занимал должность профессора Московской консерватории. В консерватории, Михаил Михайлович преподавал гармонию, инструментовку, композицию и вел оперный класс. В дальнейшем, получил назначение на пост ректора данного ВУЗа. В число учеников музыканта входили: Баланчивадзе, Василенко, Глиэр, Гольденвейзер, Меликян, Закарян, Игумнов и Бубек.
В 1895 году, на основе армянских народных мелодий, записанных музыкантом в Нахичевани, композитор создает «Армянскую рапсодию», а позднее, пишет 4 пьесы на армянские народные темы для струнного квартета.
Параллельно с преподавательской работой, Михаил Ипполитов-Иванов продолжал заниматься творческой деятельностью. Дирижировал в Московской частной русской опере Саввы Мамонтова и Опере Зимина. С 1909 года, являлся дирижером в Исторических концертах Василенко.
С 1925 года, приступил к работе в Большом театре, где под руководством знаменитого дирижера впервые были исполнены оперы «Царская невеста» и «Кащей Бессмертный».
В творчестве, Ипполитов-Иванов Михаил Михайлович ориентировался на своего учителя — Римского-Корсакова. Использовал русский, грузинский и армянский фольклор. В области гармонии не признавал новаций. Особое внимание уделял жанру оперы. Сочинял церковную музыку.
Умер 28 января 1935 года. Похоронен в Москве на Новодевичьем кладбище.
