Николай Иванович Кирюхин родился в Москве в семье дворника и окончил трехклассное училище. Работал в типографиях, а с 1913 года был членом РСДРП, за что неоднократно арестовывался и ссылался. Во время Первой мировой войны служил в Русской императорской армии, участвовал в Февральской революции, и был избран членом Петроградского совета.
В Гражданскую войну Кирюхин был красноармейцем и комиссаром, сражался на Восточном фронте против белых армий и в советско-польской войне, где был награжден орденом Красного Знамени. В межвоенный период он продолжил службу в армии, окончил Военную академию и занимал командные должности, в том числе командовал стрелковыми полками и корпусами.
С началом Великой Отечественной войны Кирюхин командовал 324-й стрелковой дивизией, участвовал в Тульской и Ржевско-Вяземской операциях. Позже командовал 9-м гвардейским стрелковым корпусом и 20-й армией, но был отстранен за неудачи в Ржевско-Сычёвской операции. Затем командовал 24-м стрелковым корпусом, который отличился в битве за Днепр. За успешные действия при форсировании Днепра он получил звание Героя Советского Союза.
Впоследствии Кирюхин участвовал в Житомирско-Бердичевской, Ровно-Луцкой и других наступательных операциях. В 1944 году стал генерал-лейтенантом и заместителем командующего 38-й армией. После войны служил на различных должностях, включая начальника военной кафедры.
Награжден 2 орденами Ленина, 4 орденами Красного Знамени, орденами Суворова 2-й ст., Богдана Хмельницкого 2-й ст., Красной Звезды, медалями, а также 2 иностранными орденами.
Уволился в 1953 году по болезни и скончался в декабре того же года. Похоронен на Новодевичьем кладбище в Москве.