Иван Иванович Людников родился в семье рабочего. В подростковом возрасте он работал на угольных шахтах в Макеевке. После Октябрьской революции 1917 года он добровольно вступил в Юзовский красногвардейский отряд и участвовал в разгроме казачьих сотен генерала А.М. Каледина под Юзовкой и Макеевкой. С мая 1918 года он служил в Красной Армии, воевал с немцами в районе Мариуполя, а затем на Южном фронте против войск генерала А.И. Деникина.
С марта 1920 года он служил в Мариупольском морском экипаже, участвовал в боях против белогвардейских войск генералов А.И. Деникина и П.Н. Врангеля, а также в борьбе с бандитизмом на Северном Кавказе. В ноябре 1921 года он был уволен с военной службы.
Один из героев Сталинградской битвы, генерал Людников пользовался в войсках репутацией грамотного и волевого военачальника, отлично знающего тактику, оперативное искусство, а также искусство использования в бою и операции соединений различных родов войск и их оружия. В отличие от некоторых командиров, вместе с которыми мне приходилось воевать, он не любил скоропалительных решений и любую задачу осмысливал глубоко и всесторонне, хорошо ориентируясь при этом в самой запутанной обстановке, настойчиво вырабатывая наиболее разумное решение.
Иван Ильич никогда не терял головы и в случае неудачного развития боя, оставаясь и в этот момент уравновешенным, подчёркнуто спокойным, отдавал распоряжения хладнокровно и вразумительно, не повышая голоса. Вместе с тем он, как никто, умел потребовать с подчинённых и помочь им. Чувствовалось, что горнило Сталинградской эпопеи, пламя Курской битвы и опыт многих других сражений, через которые он прошёл, накрепко закалил его командирский характер.
— Герой Советского Союза генерал армии П. Н. Лащенко Из боя — в бой. — М.: Воениздат, 1972. — С. 198.
Ивана Ильича Людникова я знал с первых дней войны. Он в 1941 году командовал стрелковой дивизией на Юго-Западном фронте и уже тогда проявил поразительную смелость, прославился как блестящий тактик общевойскового боя. Тяжёлое ранение выбило Людникова, как говорится, из седла. С тех пор мы не виделись с ним. Я знал, что он отличился и под Сталинградом, был удостоен звания Героя Советского Союза. Блестяще действовала его армия в ходе окружения и быстрого разгрома витебской группировки, так что генерал Людников оказался на высоте и в должности командарма.
— Герой Советского Союза Маршал Советского Союза Баграмян И. Х. Так шли мы к победе. — М: Воениздат, 1977. — С. 346.
В августе 1922 года Людников поступил на Одесские пехотные командные курсы, а затем на Одесскую пехотную школу. После ее окончания в 1925 году он командовал взводом и ротой в составе стрелкового полка.
В декабре 1926 года он начал служить во Владикавказской пехотной школе, где занимал различные должности, включая начальника штаба батальона. В 1929 году он принял участие в разоружении бандформирований в Чечне.
В 1930 году он окончил стрелково-тактические курсы и продолжил служить в ряде должностей, включая руководителя тактики пехоты в Объединенной Татаро-Башкирской военной школе.
В 1938 году он закончил Военную академию имени Фрунзе и начал служить в Генштабе РККА. С апреля 1939 года он был начальником Житомирского пехотного училища, а в марте 1941 года был назначен командиром 200-й стрелковой дивизии в Киевском Особом военном округе.
В начале Великой Отечественной войны дивизия под его командованием в составе 31-го стрелкового корпуса 5-й армии Юго-Западного фронта приняла первый бой с неприятелем на р. Стырь в районе пгт Рожище. Части дивизии вели тяжёлые оборонительные бои в Коростенском укрепрайоне, под Черниговом и на р. Десна. 14 сентября 1941 г. И.И. Людников был тяжело ранен в районе г. Нежин и эвакуирован в тыл. По выздоровлении командовал 16-й отдельной курсантской стрелковой бригадой, которая в ноябре того же года участвовала в освобождении г. Ростов-на-Дону.
В марте-апреле 1942 г. он командовал 390-й стрелковой дивизией. С мая 1942 г. — командир 138-й стрелковой дивизии, которая в составе войск Сталинградского и Донского фронтов участвовала в Сталинградской битве. За стойкость и мужество, проявленные личным составом в этих боях, 138-я стрелковая дивизия 7 февраля 1943 г. была преобразована в 70-ю гвардейскую стрелковую дивизию, а ее командиру в январе 1943 г. присвоено воинское звание генерал-майора.
В июне 1943 года Людников стал командиром 15-го стрелкового корпуса, который принимал участие в Курской битве и других значимых боевых действиях. Позднее он командовал различными армиями и корпусами, участвуя в освобождении Белоруссии и других операциях.
С 12 мая 1945 года началась переброска войск 39-й армии на границу с оккупированной Японией Маньчжурией. Армия прибыла в полном составе в Монголию и 20 июня была включена в состав Забайкальского фронта. В его составе она участвовала в Советско-японской войне в августе 1945 года. В ходе Хингано-Мукденской фронтовой операции — составной части Маньчжурской стратегической операции — армия прорвала оборонительный рубеж и ряд оборонительных районов на границе Монголии с Маньчжурией, прошла по степям свыше 400 километров и форсировала горный хребет Большой Хинган, выйдя в центральную Маньчжурию. За эту операцию И. И. Людников был награждён орденом Суворова 1-ой степени и медалью «За победу над Японией».
Награжден 3 орденами Ленина, 5 орденами Красного Знамени, 3 орденами Суворова 1-й ст., орденами Суворова 2-й ст., Богдана Хмельницкого 2-й ст., медалями, наградным оружием (браунинг), а также иностранными орденами.
После войны он занимал различные командные и управленческие должности, включая коменданта Порт-Артура, командующего группировкой советских войск в Китае, а также начальника различных военных училищ и факультетов.
Депутат Верховного Совета СССР 2-го и 3-го созывов (1946—1954).
Умер 22 апреля 1976 года в возрасте 73 лет в Москве. Тело было кремировано, а урна с прахом захоронена в колумбарии Новодевичьего кладбища.
