Филипп Голиков родился 16 июля 1900 года в деревне Борисово, Курганская область. Отучился 3 года в сельской школе, еще 7 — в гимназии. В 1918 году добровольно вступил в Красную Армию, находился на пропагандистской и политической работе, впоследствии был военным комиссаром и начальником политотдела дивизии. Во время Гражданской войны Голиков принимал участие в военных действиях в рядах полка «Красные орлы».

После окончания Военной академии имени Михаила Фрунзе стал командиром: руководил полком, дивизией, корпусом. Участвовал в освободительном походе в Западную Украину. В 1938 году Голиков стал членом военного совета округа, начальником Главного разведывательного управления Генштаба. С начала Великой Отечественной войны находился на дипломатической работе, возглавлял многие армейские и фронтовые объединения. Генерал командовал 10-й армией в Битве под Москвой в период контрнаступления.

Войска его армии прошли с боями около 400 км и освободили 10 городов. Командуя фронтом, генерал Голиков оборонял Воронеж, участвовал в сражении за Сталинград. В ходе Острогожско-Россошанской и Воронежско-Касторненской операций войска под его руководством разбили 25 вражеских дивизий. Однако Белгородско-Харьковская операция завершилась поражением войск Голикова. Для исправления ситуации Сталин отправил на Воронежский фронт маршала Г.К. Жукова, а Голиков был отозван в Москву. После этого Голиков не участвовал в боевых действиях.

Начиная с 1943 года, он занимал должность начальника Главного управления кадров Народного комиссариата Минобороны СССР. В 1958 году стал начальником Главного политического управления Советской Армии и Военно-Морского Флота, затем состоял в группе Генеральных инспекторов МО СССР. В 1961 году его было присвоено звание Маршала Советского Союза. Полководец был награжден 4 орденами Ленина, многими медалями и иностранными орденами, Почетным оружием. Является автором книг: «Красные Орлы», «В Московской битве».

Филипп Иванович Голиков умер 29 июля 1980 года в Москве, где и был похоронен на Новодевичьем кладбище. Его именем назван проспект в Кургане, улицы в различных городах.
