Родился 8 апреля 1915 года в селе Малая Офирна (Фастовский район Киевской области Украины). С 1 августа 1934 года в рядах Красной Армии. Окончил военную авиационную школу лётчиков. Служил в строевых частях ВВС.

Участник Советско-Финляндской войны с 7 января по 13 марта 1940 года в составе 4-го ИАП (ВВС 8-й Армии Северо-Западного фронта). Летал на И-153, воздушных побед не имел.

С 22 июня 1941 года лейтенант И. П. Ковалёв в действующей армии: в должности заместителя командира эскадрильи 4-го ИАП (20-я САД, ВВС Юго-Западного фронта), летал на И-16 и МиГ-3. С сентября 1941 года воевал в составе 88-го ИАП (20-я САД, ВВС Южного фронта), где летал на И-16. С октября 1941 по июль 1942 гг. - в 170-м ИАП (ВВС Южного фронта), летая на ЛаГГ-3. С января 1943 года майор И. П. Ковалёв - командир эскадрильи 164-го ИАП (295-я ИАД, 5-я Воздушная армия, Черноморская группа войск Закавказского фронта), где летал на Ла-5. С июня 1943 года - в 31-м ИАП (295-я ИАД, ВВС Юго-Западного фронта), продолжая летать на Ла-5. С 6 мая 1944 года служил в Управлении 295-й ИАД, летая на Ла-5 и Ла-7.

К 9 мая 1945 года инспектор-лётчик по технике пилотирования 295-й истребительной авиационной дивизии (10-й штурмовой авиационный корпус, 17-я Воздушная армия, 3-й Украинский фронт) майор И. П. Ковалёв совершил около 330 боевых вылетов, провёл 126 воздушных боёв, в которых сбил лично 8 самолётов противника (в последнем наградном листе говорится о 10 личных и 4 групповой победах). В 1941 году на Юго-Западном фронте имел тяжёлое ранение в ногу.

После окончания войны продолжал служить на различных должностях в ВВС. С 24 июля 1958 года полковник И. П. Ковалёв - в запасе.

Награждён орденами: Красного Знамени (30.05.1944, 14.02.1945, 05.11.1954), Отечественной войны 1-й степени (07.01.1945), Красной Звезды (19.05.1940, 05.11.1941, 15.11.1950, 22.02.1955); медалями, в том числе "За боевые заслуги" (03.11.1944).