Родился Иван Васильевич Тюленев в 1893 году. В 1913 году поступил в русскую армию, где служил прапорщиком. В ходе Первой мировой войны активно участвовал в действиях 5-го драгунского Каргопольского полка, за проявленную храбрость награжден 4 Георгиевскими крестами.
После Февральской революции 1917 года Тюленев стал членом эскадронного и полкового комитетов, а также вошел в Петроградский Совет. С началом Гражданской войны в 1918 году присоединился к Красной Армии, где занимал различные должности, начиная от командира взвода и заканчивая командиром кавалерийской бригады. Во время Гражданской войны принимал участие в боях на Восточном, Южном и Западном фронтах, а также в подавлении Кронштадтского и Тамбовского восстаний.
В межвоенный период (1922-1931) Тюленев командовал отдельной кавалерийской бригадой и дивизией, был инспектором кавалерии, затем занимал руководящие позиции в Центральном аппарате Наркомвоенпрода и стал заместителем инспектора кавалерии РККА с февраля 1936 года.
С началом Великой Отечественной войны в 1941 году Тюленев командовал войсками Южного фронта, 28-й армией, а затем Закавказским фронтом с мая 1942 года до конца войны. Войска Закавказского фронта успешно остановили противника на реке Терек, освободили предгорья Кавказа и часть Кубани.
После войны Тюленев продолжал службу, занимая важные должности, такие как командующий войсками Харьковского военного округа. С июля 1946 года он работал в Центральном аппарате Министерства обороны. За умелое руководство войсками, мужество и вклад в подготовку войск после войны ему было присвоено звание Героя Советского Союза. С 1958 года Тюленев занимал должность военного инспектора — советника в Группе генеральных инспекторов Министерства обороны СССР.
Награжден 4 орденами Ленина, орденом Октябрьской Революции, 5 орденами Красного Знамени, орденами Кутузова 1 ст., «За службу Родине в Вооруженных Силах СССР» 3 ст., медалями, иностранными орденами и медалями, а также Почетным оружием.
15 августа 1978 года. Похоронен на Новодевичьем кладбище в Москве.