Родившись в семье рабочего, Иван Иванович Людников начал свою трудовую деятельность на угольных шахтах в Макеевке. После Октябрьской революции 1917 года добровольно вступил в Юзовский красногвардейский отряд, где принял участие в разгроме казачьих сотен генерала А.М. Каледина под Юзовкой и Макеевкой.
В мае 1918 года присоединился к Красной Армии, участвуя в партизанском отряде против немецких войск в районе Мариуполя. В 1919 году брал участие на Южном фронте против войск генерала А.И. Деникина. В марте 1920 года, как военмор Мариупольского морского экипажа, участвовал в борьбе против белогвардейских войск генералов А.И. Деникина и П.Н. Врангеля, а также в подавлении десанта генерала С.Г. Улагая на Северном Кавказе.
После увольнения в ноябре 1921 года, Людников поступил на 94-е Одесские пехотные командные курсы, а затем прошел обучение в Одесской пехотной школе. После окончания служил в различных должностях в составе 37-го стрелкового полка 13-й Дагестанской стрелковой дивизии.
В 1930 году окончил стрелково-тактические курсы, после чего служил в Владикавказской пехотной школе. С 1934 года занимал различные должности в Военной академии РККА им. М.В. Фрунзе, в том числе начальника Житомирского пехотного училища. В 1941 году был назначен командиром 200-й стрелковой дивизии в Киевском Особом военном округе.
В начале Великой Отечественной войны командовал 200-й стрелковой дивизией, участвовал в боях на Юго-Западном фронте, в том числе в Сталинградской битве. За проявленную стойкость и мужество, дивизия была преобразована в 70-ю гвардейскую стрелковую дивизию, а Людникову присвоено звание генерал-майора.
В 1943 году командовал 15-м стрелковым корпусом, принимая участие в Курской битве и других важных операциях. Затем командовал 39-й армией, участвовавшей в освобождении Белоруссии и Кёнигсберга. После войны служил на Дальнем Востоке, а затем занимал различные командные должности в Советской Армии.
С 12 мая 1945 года началась переброска войск 39-й армии на границу с оккупированной Японией Маньчжурией. Армия прибыла в полном составе в Монголию и 20 июня была включена в состав Забайкальского фронта. В его составе она участвовала в Советско-японской войне в августе 1945 года. В ходе Хингано-Мукденской фронтовой операции — составной части Маньчжурской стратегической операции — армия прорвала оборонительный рубеж и ряд оборонительных районов на границе Монголии с Маньчжурией, прошла по степям свыше 400 километров и форсировала горный хребет Большой Хинган, выйдя в центральную Маньчжурию. За эту операцию И. И. Людников был награждён орденом Суворова 1-ой степени и медалью «За победу над Японией».
Награжден 3 орденами Ленина, 5 орденами Красного Знамени, 3 орденами Суворова 1-й ст., орденами Суворова 2-й ст., Богдана Хмельницкого 2-й ст., медалями, наградным оружием (браунинг), а также иностранными орденами.
После войны он занимал различные командные и управленческие должности, включая коменданта Порт-Артура, командующего группировкой советских войск в Китае, а также начальника различных военных училищ и факультетов.
Депутат Верховного Совета СССР 2-го и 3-го созывов (1946—1954).
Умер 22 апреля 1976 года в возрасте 73 лет в Москве. Тело было кремировано, а урна с прахом захоронена в колумбарии Новодевичьего кладбища.