Петр Павлович Ершов родился в 1784 году в семье чиновника Павла Алексеевича Ершова. Отец, занимавшийся служебными делами, часто перемещался, что позволяло семье познакомиться с различными казачьими поселениями и местами, связанными с легендами о временах Ермака и Пугачёва.
В 1824 году Петр и его брат Николай были отправлены учиться в Тобольск. После окончания гимназии они поступили в Петербургский университет. В университетские годы Петр Ершов познакомился с известными литераторами и профессорами, такими как Василий Жуковский и Александр Пушкин. Его сказка «Конёк-горбунок» была прочитана на одной из лекций профессором Петром Плетнёвым, а Пушкин оценил её качество и призвал продолжать в том же духе.
Считается, что произведения Ершова легли в основу пьес «отца Пруткова». В частности, Владимир Михайлович Жемчужников писал Александру Николаевичу Пыпину 6 (18) февраля 1883 года из Ментоны (Франция) о своём знакомстве с П. П. Ершовым, в 1854 году в Тобольске, где он служил чиновником особых поручений при родственнике — тобольском губернаторе В. А. Арцимовиче:
Мы довольно сошлись. Он очень полюбил Пруткова, знакомил меня также с прежними своими шутками и передал мне свою стихотворную сцену Черепослов, сиречь Френолог, прося поместить её куда-либо, потому что «сознаёт себя отяжелевшим и устаревшим». Я обещал воспользоваться ею для Пруткова и впоследствии, по окончании войны и по возвращении моём в СПб., вставил его сцену, с небольшими дополнениями, во 2-ое действие оперетты Черепослов, написанной мною с бр. Алексеем и напечатанной в Современнике 1860 г. — от имени отца Пруткова, дабы не портить уже вполне очертившегося образа самого Косьмы Пруткова.
«Конёк-горбунок» был опубликован в 1834 году и принес Ершову большой успех. Впоследствии он написал ещё одно знаменитое произведение — «Сибирского казака».
После окончания университета Ершов столкнулся с трудностями в получении должности в Петербурге и решил вернуться в Тобольск. Там он работал учителем и затем директором гимназии, где среди его учеников был будущий химик Дмитрий Иванович Менделеев, позднее женившийся на падчерице Ершова.
Петр Ершов также был инициатором создания любительского гимназического театра и написал несколько пьес для него.
Умер 18 (30) августа 1869 года. Похоронен в Тобольске на Завальном кладбище.