Родился 17 марта 1896 года в селе Поляны, ныне Рязанского района Рязанской области, в крестьянской семье. В детстве и юности занимался пастушеством и работал на крахмальном заводе. Русский по национальности. С 1919 года член Всероссийской коммунистической партии (большевиков)/Коммунистической партии Советского Союза (ВКП(б)/КПСС).
С августа 1915 года по март 1917 года служил в Русской императорской армии, начиная с рядового и продвигаясь до старшего унтер-офицера. Участвовал в Первой мировой войне, находясь на фронте. В августе 1918 года добровольно вступил в Красную Армию.
В Гражданскую войну командовал взводом и участвовал в боях против войск генерала Мамонтова, банд Махно и Антонова. В 1920 году успешно окончил 1-е Рязанские Советские пехотные курсы командного состава РККА. Прошел обучение на курсах «Выстрел» в 1925 и 1931 годах, а также на Ленинградских бронетанковых курсах имени А. С. Бубнова в 1932 году.
С 1921 года занимал должность комиссара Курской военной школы. В разные периоды времени командовал ротой, батальоном и ротой разведчиков различных стрелковых полков. В 1926 году стал начальником полковой школы 50-го стрелкового полка.
С 1932 года, начиная с должности командира учебного батальона в Горьковской бронетанковой школе имени И. В. Сталина, прошел ряд важных курсов и учебных программ.
В период с 1937 по 1938 годы участвовал в Гражданской войне в Испании в роли военного советника. Вернувшись из Испании, в марте 1939 года был назначен командиром 20-го танкового корпуса в Забайкальском военном округе.
Принимал участие в боях на реке Халхин-Гол с августа по сентябрь 1939 года, командуя 11-м механизированным корпусом в составе 1-й армейской группы. Также участвовал в советско-финской войне, командуя 19-м стрелковым корпусом на Карельском перешейке.
С лета 1940 года вернулся на Дальний Восток, где формировал и командовал 5-м механизированным корпусом в Забайкальском военном округе до апреля 1941 года.
С апреля 1941 года по декабрь 1945 года генерал-лейтенант танковых войск М. Ф. Терёхин командовал 2-й Краснознамённой армией Дальневосточного фронта. В ходе советско-японской войны 1945 года его армия доблестно участвовала в Маньчжурской стратегической наступательной операции.
После войны и до декабря 1945 года Терёхин продолжал командовать той же армией. С 1949 года занимал должность помощника командующего войсками Белорусского и Северного военных округов.
В 1949 году окончил Высшие академические курсы при Военной академии Генерального штаба имени К. Е. Ворошилова. В 1950 году проживал в городе Петрозаводске Карело-Финской ССР, где был избран депутатом Петрозаводского городского Совета депутатов трудящихся V созыва. Занимал должность заместителя командующего Беломорским военным округом в Петрозаводске.
Награжден 3 орденами Ленина, 2 орденами Красного Знамени, орденом Кутузова 1 ст., медалями, а также иностранным орденом.
С 1954 года находился в запасе. Проживал в городе Рязани, где скончался 30 марта 1967 года. Похоронен на Скорбященском кладбище г. Рязани.
