Родился 19 января 1904 года в селе Клины (ныне Медынский район, Калужская область). С 1932 года находился на военной службе, поступив в Военную академию механизации и моторизации РККА. В 1934 году успешно закончил академию и был назначен конструктором в специальное конструкторское бюро Кировского завода в Ленинграде.
На начальном этапе участвовал в производстве основного танка Т-28, а затем в создании тяжелого танка СМК (под общим руководством Ж. Я. Котина). На различных этапах проектирования и изготовления опытного образца СМК техническое руководство осуществлял Н. В. Цейц. После увольнения Цейца, работы по изготовлению танка СМК были поручены Ермолаеву. Опытный образец танка СМК успешно использовался в советско-финляндской войне, в боях на Карельском перешейке зимой 1940 года.
Трудовая карьера Ермолаева тесно связана с конструированием боевых машин в Ленинграде и Челябинске. В 1941 году СКБ-2 Кировского завода было эвакуировано в Челябинск, где в марте 1942 года был организован опытный завод №100, а Ермолаев стал его главным конструктором. Здесь были созданы танки и самоходные артиллерийские установки нового поколения, такие как ИС-1 (ИС-85), ИС-2, ИСУ-152 и ИСУ-122, которые стали важной силой Красной Армии в 1944-1945 годах.
После войны, до 1949 года, Ермолаев работал на Челябинском тракторном заводе, затем переехал в Ленинград. Здесь он руководил созданием тяжелых танков Т-10 (1953 год) и участвовал в разработке новых конструкций танков, а также тракторов С-80 и К-700. В 1946 году он был принят в члены ВКП(б).
Ушел из жизни 5 октября 1977 года в Ленинграде и был похоронен там же.