Родился 17 марта 1896 года в селе Поляны, ныне Рязанского района Рязанской области, в крестьянской семье. В детстве и юности занимался пастушеством и работал на крахмальном заводе. Русский по национальности, он стал членом ВКП(б)/КПСС с 1919 года. Получил образование, окончив 7 классов.
С августа 1915 года по март 1917 года служил в Русской императорской армии, начиная с ранга рядового и достигнув старшего унтер-офицера. Участвовал в Первой мировой войне, находясь на фронте с марта 1917 года. В августе 1918 года добровольно вступил в Красную Армию.
В Гражданскую войну он занимал должность командира взвода, принимая участие в боях против войск генерала Мамонтова, банд Махно и Антонова. В 1920 году успешно завершил обучение в 1-ых Рязанских Советских пехотных курсах командного состава РККА. Прошел курсы «Выстрел» в 1925 и 1931 годах, а также Ленинградские бронетанковые курсы в 1932 году.
С 1921 года занимал должность комиссара Курской военной школы, а затем командира роты и батальона в различных стрелковых полках. В 1926 году стал начальником полковой школы и в последующие годы командовал различными частями и подразделениями.
В 1935 году прошел курсы усовершенствования при Военной академии механизации и моторизации РККА, после чего командовал механизированным полком и бригадой. В 1937—1938 годах участвовал в Гражданской войне в Испании в качестве военного советника.
С участием в боевых действиях на реке Халхин-Гол в 1939 году, где командовал 11-м механизированным корпусом, началась советско-японская война. В период с 1940 по апрель 1941 года он снова находился на Дальнем Востоке, формируя и командуя 5-м механизированным корпусом.
С апреля 1941 года по декабрь 1945 года генерал-лейтенант танковых войск Терехин М. Ф. командовал 2-й Краснознамённой армией Дальневосточного фронта. В ходе советско-японской войны в 1945 году его армия успешно участвовала в Маньчжурской стратегической наступательной операции, приводя к массовой капитуляции японских войск.
После войны и до декабря 1945 года Терехин продолжал командовать той же армией. С 1949 года он был помощником командующего войсками Белорусского и Северного военных округов. В 1950 году проживал в городе Петрозаводске Карело-Финской ССР, занимая пост заместителя командующего Беломорским военным округом в Петрозаводске.
Награжден 3 орденами Ленина, 2 орденами Красного Знамени, орденом Кутузова 1 ст., медалями, а также иностранным орденом.
С 1954 года находился в запасе. Проживал в городе Рязани, где скончался 30 марта 1967 года. Похоронен на Скорбященском кладбище г. Рязани.
