Михаил Громов родился 12 февраля 1899 года в Твери в семье военного врача, выслужившего потомственное дворянство. Детство и юность провёл в Калуге, Ржеве, военном городке Мыза Раево неподалёку от железнодорожной станции Лосиноостровская Московской железной дороги, вокруг которой позже вырос город Бабушкин.
В годы Гражданской войны М. М. Громов воевал в разведывательном авиационном отряде на Восточном фронте в качестве летчика. В межвоенный период он был инструктором-летчиком Московской авиационной школы, летчиком-испытателем научно-испытательного аэродрома, командиром отряда военной школы стрельбы и бомбометания в г. Серпухов, старшим летчиком-инструктором НИИ ВВС РККА, летчиком-испытателем и командиром отряда Центрального аэродинамического института.
Звание Героя Советского Союза М. М. Громов получил за проявленное героизм и самоотверженную работу в достижении мирового рекорда дальности полета на самолете АНТ-25. Вместе с экипажем, состоящим из командира М. М. Громова, второго пилота А. И. Филина и штурмана И. Т. Спирина, за 75 часов 2 минуты они пролетели без посадки 12 411 км. Также, в июле 1937 года, М. М. Громов совершил перелет по маршруту Москва, Северный полюс, г. Сан-Джасинто (штат Калифорния, США), установив мировой рекорд дальности по прямой в 10 148 км.
С февраля 1941 года он занимал должность начальника Летно-исследовательского института Наркомата авиационной промышленности. В начале Великой Отечественной войны М. М. Громов был командирован в США для решения вопроса о поставках в СССР американских боевых самолетов. С декабря 1941 года он был командиром 31-й смешанной авиационной дивизии Калининского фронта, а с февраля 1942 года – командующим ВВС того же фронта.
М. М. Громов успешно руководил боевыми действиями авиационных соединений в период контрнаступления под Москвой. С мая 1942 года он стал командующим 3-й воздушной армией, которая участвовала в оборонительной операции в районе г. Белый, Ржевско-Сычевской и Великолукской наступательных операциях. В феврале 1943 года часть сил армии привлекалась для поддержки войск Северо-Западного фронта в ходе Демянской наступательной операции. В марте 1943 года армия поддерживала войска Калининского фронта в Ржевско-Вяземской наступательной операции.
С мая 1943 года М. М. Громов стал командующим 1-й воздушной армией, которая прикрывала и поддерживала войска Западного и 3-го Белорусского фронтов в Курской битве, Смоленской стратегической наступательной операции, при освобождении городов Ельня, Смоленск, Мстиславль и других. В последующем 1-я воздушная армия действовала на витебском и оршанском направлениях, принимая участие в Белорусской стратегической наступательной операции.
С июля 1944 года М. М. Громов занял должность начальника Главного управления боевой подготовки фронтовой авиации. После войны он продолжил свою службу на прежних должностях, став заместителем командующего ДА по боевой подготовке, а затем начальником Управления летной службы Министерства авиационной промышленности с оставлением в кадрах Советской Армии с мая 1949 года. С сентября 1955 года находился в запасе.
Скончался 22 января 1985 года. Похоронен в Москве, на Новодевичьем кладбище.
Награжден 4 орденами Ленина, орденом Октябрьской Революции, 4 орденами Красного Знамени, орденами Суворова 2 ст., Отечественной войны 1 ст., 3 орденами Красной Звезды, медалями, иностранным орденом и медалями, а также высшей наградой Международной авиационной федерации (ФАИ) — медалью Де Лаво.
