Родился 23 марта 1910 года в станице Славянская (Славянский район Краснодарского края). С мая 1932 по 1934 гг. проходил службу в рядах Красной Армии, призван Славянским РВК. Окончил военную авиационную школу лётчиков, затем был уволен в запас. С июня 1942 года - снова в Красной Армии (призван Ашхабадским РВК), переучивался на новую технику в 1-й ЗИАП ВВС Московского военного округа.

С 5 сентября 1943 года лейтенант А. П. Коваленко в действующей армии. Воевал в составе 728-го ИАП (256-я ИАД), где прошёл путь от рядового пилота до командира эскадрильи. Сражался на Воронежском и 1-м Украинском фронтах. Летал на Як-7Б и Як-9Д.

К 9 мая 1945 года командир эскадрильи 728-го истребительного авиационного полка (256-я истребительная авиационная дивизия, 5-й истребительный авиационный корпус, 2-я Воздушная армия, 1-й Украинский фронт) старший лейтенант А. П. Коваленко совершил 153 боевых вылета, провёл около 20 воздушных боёв и сбил лично 8 самолётов противника.

После окончания войны продолжал служить в ВВС. С 12 июля 1946 года - в запасе.

Награждён орденами: Красного Знамени (25.04.1944, 05.07.1944), Александра Невского (17.06.1945), Отечественной войны 2-й степени (02.04.1944), медалями.