Родился 14 января 1917 года в селе Софино (Хорольский район Полтавской области Украины). Окончил 7 классов Хорольской неполной средней школы № 1 и Лубенский строительный техникум. С 1936 года в рядах Красной Армии. В 1939 году окончил Чугуевское военное авиационное училище лётчиков.

С июня 1941 года лейтенант П. Ф. Шевелёв в действующей армии. Боевую деятельность начал в составе 191-го ИАП. Был заместителем (и временно исполняющим обязанности) командира эскадрильи. Летал на И-16 и "Харрикейне". В июле 1942 года направлен в 436-й ИАП (21 марта 1943 года преобразован в 67-й Гвардейский ИАП). Летал на "Харрикейне", "Киттихауке" и "Аэрокобре". Сражался на Ленинградском, Калининском, Западном, Юго-Западном, Сталинградском, Центральном, 1-м Белорусском фронтах.

Памятным остался для П. Ф. Шевелёва воздушный бой 22 июня 1942 года в районе Купянска. Шестёрка наших самолётов смело атаковала 12 Ме-109. Хотя противник имел перевес, он всё же не выдержал натиска и обратился в бегство, потеряв 3 самолёта. Один из них был сбит П. Ф. Шевелёвым. Ранее, в этот же день, он уже одержал одну победу в районе Липки.

К концу августа 1943 года командир эскадрильи 67-го Гвардейского истребительного авиационного полка (1-я Гвардейская истребительная авиационная дивизия, 16-я Воздушная армия, Центральный фронт) Гвардии капитан П. Ф. Шевелёв совершил 189 боевых вылетов, в воздушных боях сбил лично 13 самолётов противника. Указом Президиума Верховного Совета СССР от 4 февраля 1944 года удостоен звания Героя Советского Союза с вручением ордена Ленина и медали "Золотая Звезда" (№ 2829).

К маю 1945 года штурман 67-го Гвардейского истребительного Барановичского Краснознамённого ордена Суворова авиационного полка (273-я истребительная авиационная дивизия, 6-й истребительный авиационный корпус, 1-й Белорусский фронта) Гвардии майор П. Ф. Шевелёв совершил 236 боевых вылетов, проведя 55 воздушных боёв, сбил лично 15 самолётов противника (в материалах последнего наградного листа говорится о 17 личных победах). Был трижды ранен.

После окончания войны продолжал служить в ВВС. В 1949 году окончил Военную академию имени М. В. Фрунзе, направлен в войска ПВО. С июля 1952 по июль 1953 года подполковник П. Ф. Шевелёв принимал участие в Корейской войны 1950-1953 гг. в должности командира 415-го истребительного авиационного полка (133-я истребительная авиационная дивизия ПВО, 64-й истребительный авиационный корпус), летал на МиГ-15, в воздушных боях лично сбил 3 самолёта ВВС США.

Затем продолжал службу на высших командных постах в Войсках ПВО страны. В 1960 году командовал Брянским корпусом ПВО. В 1967-1978 гг. командовал 12-й отдельной армией Войск ПВО страны (Узбекистан). В 1970 году окончил Высшие академические курсы при Военной академии Генерального штаба. С 1978 года генерал-полковник авиации П. Ф. Шевелёв - в отставке. Жил в городе Ташкенте (Узбекистан), работал в Министерстве лесного хозяйства Узбекской ССР. В начале 1990-х годов переехал в город Брянск, где и умер 19 мая 2000 года. Похоронен на Советском кладбище в Брянске. На доме, в котором проживал Герой, в 2011 году была установлена памятная доска.

Награждён орденами: Ленина (26.11.1941, 04.02.1944), Красного Знамени (23.10.1942, 10.02.1943, 04.06.1945, ...), Александра Невского (04.10.1944), Отечественной войны 1-й степени, Трудового Красного Знамени, Красной Звезды (дважды); медалями, иностранными наградами.