Актер театра и кино, народный артист СССР Зиновий Ефимович Гердт (Залман Эфроимович Храпинович) родился 21 сентября 1916 года в городе Себеже Псковской области в небогатой еврейской семье.
Его отец умер довольно рано, мать (ее фамилия стала псевдонимом актера) осталась с четырьмя детьми: два мальчика и две девочки, младшим был Зяма (так впоследствии звали Зиновия Гердта друзья, знакомые и зрители).
В Себеже он прожил до 11 лет, учился в еврейской школе (хедер), знал идиш. Когда старший брат Борис уехал в Москву и обзавелся там семьей, младший брат переехал к нему.
С юных лет Гердт увлекался поэзией, сам писал стихи, мог часами читать Пушкина, Самойлова, Пастернака, все произведения которого знал наизусть. Тягу к поэзии будущему актеру привил школьный учитель литературы.
По словам самого Гердта, на его решение стать актером отчасти повлиял тот факт, что директор школы записал в его аттестате: «Имеет склонность к драматической игре».
В 15 лет, окончив фабрично-заводское училище Московского электрозавода имени Куйбышева, Гердт пришел работать на Метрострой слесарем-электриком. Играл в театре рабочей молодежи (ТРАМ) при заводском клубе.
Впоследствии ТРАМ преобразовался в театральную студию Алексея Арбузова и Валентина Плучека.
С 1937 года Гердт работал в Театре кукол при Московском Доме пионеров.
С началом Великой Отечественной войны Зиновий Гердт ушел добровольцем на фронт. Был старшим лейтенантом саперной роты. 13 февраля 1943 года под Белгородом получил тяжелое ранение в ногу. После ранения ему пришлось перенести 11 операций, хромота осталась на всю жизнь.

В 1945-1982 годах Гердт состоял в труппе Центрального Театра кукол под руководством Сергея Образцова. Он подарил свой голос множеству персонажей, наиболее знаменит конферансье из «Необыкновенного концерта». В этой роли Гердт завоевал мировое признание. В каждой стране он вел партию конферансье на местном языке и был столь убедителен, что зрители верили, что актеру их язык известен в тонкостях: Гердт в совершенстве владел искусством звукоподражания.
В Центральном Театре кукол под руководством Сергея Образцова Гердт был занят также в спектаклях «Чертова мельница», «По щучьему велению», «Ночь перед Рождеством», «Божественная комедия» и др.
Играл также в театре «Современник» в спектакле «Монумент» Энна Ветемаа в постановке Валерия Фокина (премьера состоялась в 1977 году).
С 1983 года был актером театра имени М.Н. Ермоловой (спектакль «Костюмер»).
В кинематограф Зиновий Гердт вошел как актер дубляжа, закадрового текста. Голосом Гердта говорили герои зарубежного экрана: Тото («Полицейские и воры», 1951), Ричард Харрис («Кромвель», 1970), актеры Питер О’Тул, а также Юрий Ярвет в роли короля Лира (1970). В знаменитом фильме «Фанфан Тюльпан» (1952) Гердт говорил за автора.
Принимал участие в озвучивании множества фильмов: «Леон Гаррос ищет друга» (1960), «Карьера Димы Горина» (1961), «Возвращенная музыка» (1964), «Как украсть миллион» (1966), «Бегство мистера Мак Кинли» (1975), «Время жить, время любить» (1976), «Красное и черное» (1976), «История одной бильярдной команды» (1988), в том числе анимационных: «Приключения капитана Врунгеля» (1976 1979), «Ссора» (1978), «Мама для мамонтенка» (1981), «Доктор Айболит» (1984 1985) и др.
В кино дебютировал в 1958 году в эпизодической роли в фильме «Человек с планеты земля». Гердт известен в первую очередь как мастер эпизодических, преимущественно комедийных ролей. Всего на счету артиста роли более чем в 70 фильмах.
В 1960-е годы снялся в картинах «Мишель и Мишутка» (1961), «Возвращенная музыка» (1964), «Хотите – верьте, хотите – нет…» (1964), «Год как жизнь» (1965), «Зеленый огонек» (1965), «Город мастеров» (1965), «Авдотья Павловна» (1966), «Июльский дождь» (1966), «В тринадцатом часу ночи» (1968), «Зигзаг удачи» (1969) и др.
Признание публики пришло к актеру после первых крупных ролей – Кукушкина в фильме «Фокусник» (1967, режиссер Петр Тодоровский) и Паниковского в экранизации романа Ильи Ильфа и Евгения Петрова «Золотой теленок» (1968, режиссер Михаил Швейцер).
В 1970-е годы появились новые фильмы с участием Гердта: «Вас вызывает Таймыр» (1970), «Городской романс» (1970), «Ехали в трамвае Ильф и Петров» (1971), «Печки лавочки» (1972), «Карнавал» (1972), «Автомобиль, скрипка и собака Клякса» (1974), «Соломенная шляпка» (1974), «Ключ без права передачи» (1976), «Розыгрыш» (1976), «Хождение по мукам» (1974), «Двенадцать стульев» (1977), «Жизнь Бетховена» (1978), «Трое в лодке, не считая собаки» (1979), «Место встречи изменить нельзя» (1979) и др.
В 1980-1990 е годы актер продолжал активно сниматься в кино: «Адам женится на Еве» (1980), «О бедном гусаре замолвите слово» (1980), «Сказки… сказки… сказки старого Арбата» (1982), «Я вас дождусь» (1982), «Пацаны» (1983), «Военно-полевой роман» (1983), «Мэри Поппинс, до свидания!» (1983), «На златом крыльце сидели» (1986), «Воры в законе» (1988), «Искусство жить в Одессе» (1989), «Биндюжник и король» (1989), «Интердевочка» (1989), «Детство Темы» (1991), «Затерянный в Сибири» (1990), «Я — Иван, ты — Абрам» (1993), «Жизнь и необычайные приключения солдата Ивана Чонкина» (1994), «Простодушный» (1994), «Ревизор» (1996) и др.
Зиновий Гердт также работал на телевидении. Он был первым ведущим одной из самых популярных советских телевизионных программ «Кинопанорама», первый выпуск которой вышел в эфир в 1962 году.
В 1990-е годы вел популярную авторскую программу «Чай-клуб».
Гердт выступил в качестве сценариста мюзикла «Я больше не буду» (1975).
Народный артист СССР (1990).
В 1996 году Гердт был награжден орденом «За заслуги перед Отечеством» III степени.
В том же году удостоен приза президента России «За вклад в российское кино» открытого российского кинофестиваля «Кинотавр».
Гердт был женат на Татьяне Александровне Правдиной, переводчице с арабского языка. Вместе воспитывали дочь Екатерину (от первого брака Татьяны Правдиной).

Зиновий Гердт скончался в Москве 18 ноября 1996 года. Похоронен на Кунцевском кладбище Москвы.
В Киеве на пересечении улиц Прорезной и Крещатика в 1998 году открылся памятник Паниковскому (персонаж романа «Золотой теленок»), прообразом памятника послужил Зиновий Гердт, исполнивший роль Паниковского в экранизации романа.
В 2001 году вышло первое издание книги «Зяма – это же Гердт!», в которой о Гердте рассказывают Эльдар Рязанов, Эдуард Успенский, Петр Тодоровский, Аркадий Арканов, Григорий Горин, Виктор Шендерович и другие. Составители книги – Татьяна Правдина и Яков Гройсман.
В 2010 году издательство «АСТ» выпустило книгу Зиновия Гердта «Рыцарь совести».
Зиновий Гердт – почетный гражданин города Себежа.
В 2004 году в парке Себежа, где находился родительский дом артиста, установили закладной камень на месте будущего памятника, у которого местные поэты и художники проводят творческие встречи.