Родился в 1917 году в посёлке Суражевка (Свободненский район Амурской области). С 1940 года в рядах Красной Армии, призван Свободненский РВК. Окончил военную авиационную школу лётчиков. Затем проходил переучивание на новую технику в 8-м ОУТСАП.

С 23 августа 1942 года сержант К. П. Коваленко в действующей армии (к боевой работе приступил с 28 октября 1942 года). Воевал в составе 21-го Гвардейского ИАП (240-я и 304-я ИАД). Прошёл путь от рядового пилота до заместителя командира эскадрильи. Сражался на Северо-Западном, Степном и 2-м Украинском фронтах. Летал на ЛаГГ-3, Як-1 и "Аэрокобре".

17 июня 1944 года заместитель командира эскадрильи 21-го Гвардейского истребительного авиационного полка (304-я истребительная авиационная дивизия, 7-й истребительный авиационный корпус, 5-я Воздушная армия, 2-й Украинский фронт) Гвардии лейтенант К. П. Коваленко не вернулся с боевого задания (пропал без вести). Всего совершил около 100 боевых вылетов, провёл около 30 воздушных боёв, сбил лично 12 и в составе группы 1 самолёт противника.

Награждён орденами: Красного Знамени (19.03.1944) и Отечественной войны 1-й степени (10.02.1943).