Родился 7 (20) декабря 1915 года в селе Паника (ныне Умётского района Тамбовской области). С 1929 года жил в Москве. Окончил школу фабрично-заводского ученичества (ФЗУ), работал слесарем-лекальщиком на заводе. В 1936 году окончил аэроклуб Московского авиационного института (МАИ). В 1937-1940 гг. работал лётчиком-инструктором аэроклуба МАИ. В 1940 году окончил Московский химико-технологический институт. Работал начальником смены на одном из московских оборонных заводов. С октября 1940 года в рядах Красной Армии, призван Красногорским РВК (города Москвы). В 1941 году окончил Остафьевскую военную авиационную школу лётчиков. Служил в строевых частях ВВС.

С 11 ноября 1941 года сержант П. И. Казьмин в действующей армии: в должности командира звена 423-го ИАП (142-й ИАД ПВО, Горьковского района ПВО), летал на Як-1. В июне 1942 года был переведён в 487-й ИАП (101-й ИАД ПВО, Воронежско-Борисоглебского района ПВО), где летал на МиГ-3. Был командиром звена и заместителем командира эскадрильи.

В апреле 1943 года был направлен в недавно сформированный 907-й ИАП ОН (125-й ИАД ПВО, Тульского района ПВО) на должность командира звена 1-й эскадрильи. С 15 мая 1943 года приступил к боевой работе на самолётах Ла-5 и Як-7Б (в составе 101-й ИАД ПВО, Воронежского района ПВО, оперативно подчинялась командованию Воронежского фронта). С 9 июня 1943 года полк действовал в составе 9-го ИАК ПВО (Воронежского района ПВО, с 29 июня 1943 года - уже Западного фронта ПВО). Участвовал в Курской битве и освобождении Украины. Вскоре был назначен заместителем командира 1-й эскадрильи. С осени 1943 года летал только на Ла-5.

В январе 1944 года полк был передан в состав 148-й ИАД ПВО (Курского, с марта 1944 года - уже Львовского района ПВО; Западного фронта ПВО), с апреля 1944 года - в 4-й Корпус ПВО (Северного фронта ПВО), с июля 1944 года - в 83-ю ИАД ПВО (Северного фронта ПВО), в сентябре 1944 года - в 14-й Корпус ПВО (Северного фронта ПВО). С октября 1944 года боевой работы не вёл: полк базировался на аэродроме города Минска и занимался по плану учебно-боевой подготовки. 15 апреля 1945 года перебазировался в Германию (аэродром Ландсберг) и возобновил боевую работу, осуществляя ПВО объектов 1-го Белорусского фронта.

К маю 1945 года заместитель командира 907-го истребительного авиационного полка (148-я истребительная авиационная дивизия, 5-й Корпус ПВО, Западный фронт ПВО) Гвардии старший лейтенант П. И. Казьмин совершил более 170 боевых вылетов, в воздушных боях сбил лично 2 и в составе группы ещё 2 самолёта противника (в наградных документах говорится о 3 личных и 1 групповой победах).

После окончания войны продолжал служить в авиации ПВО Одесского военного округа. С 21 мая 1946 года Гвардии старший лейтенант П. И. Казьмин - в запасе. В 1947-1976 гг. работал лётчиком-испытателем Лётно-Исследовательского института. Провёл испытания самолёта "3462" в планерном варианте (1947 год); исследования устойчивости, управляемости и манёвренности реактивного истребителя МиГ-17 на околозвуковых, звуковых и сверхзвуковых скоростях полёта (1950-1951 гг.); испытания по отработке дозаправки сверхзвукового истребителя МиГ-19 от бомбардировщика Ту-16 (1955 год); испытания жидкостно-реактивного двигателя РУ-013 на самолёте Ил-28Р (1958 год); испытания реактивного пассажирского самолёта Ту-104 на режимах невесомости и много других испытательных работ по тематике института. В 1971 году присвоено воинское звание "подполковник".

После ухода с лётной работы продолжал трудиться в ЛИИ на следующих должностях: ведущего инженера, начальника экспедиции на Байконуре, диспетчера. Долгие годы возглавлял комитет ДОСААФ института, лично участвовал в многочисленных автогонках и авторалли. Мастер спорта СССР по автомобильному спорту. Указом Президента Российской Федерации от 18 декабря 1996 года за мужество и героизм, проявленные в годы Великой Отечественной войны 1941-1945 гг., а также при испытании, доводке и освоении специальной техники, удостоен звания Героя Российской Федерации с вручением медали "Золотая Звезда" (№ 375).

Жил в Москве и на даче в посёлке Кратово (Раменский район Московской области). Умер 7 января 2010 года. Похоронен в городе Жуковском, на Быковском кладбище.

Награждён орденами: Отечественной войны 1-й степени (16.09.1944), Отечественной войны 2-й степени (11.03.1985), Красной Звезды (01.08.1943), Октябрьской Революции (25.03.1974), Трудового Красного Знамени (12.07.1957); медалями.

Почётный гражданин города Жуковский (Московская область). В Москве на доме, где жил Герой, установлена мемориальная доска.