Родился 6 января 1914 года в городе Одесса (Украина). Окончил 2 курса железнодорожного техникума и аэроклуб. Работал мастером-модельщиком по дереву. С апреля 1937 года в рядах Красной Армии. В 1938 году окончил Борисоглебскую военную авиационную школу лётчиков. Участник Советско-Финляндской войны 1939-1940 гг.

С 22 июня 1941 года младший лейтенант А. И. Сергов на фронтах Великой Отечественной войны. Боевую деятельность начал в должности адъютанта эскадрильи 17-го ИАП. Летал на И-153, ЛаГГ-3 и "Аэрокобре". 3 января 1943 года назначен штурманом 508-го ИАП, где летал на Як-7 и "Аэрокобре".

К 10 июля 1943 года штурман 508-го истребительного авиационного полка (205-я истребительная авиационная дивизия, 5-й истребительный авиационный корпус, 2-я Воздушная армия, Воронежский фронт) майор А. И. Сергов совершил 331 боевой вылет, в воздушных боях сбил лично 7 и в группе 16 самолётов противника (в наградном листе говорится о 10 личных и 17 групповых победах). Указом Президиума Верховного Совета СССР от 28 сентября 1943 года удостоен звания Героя Советского Союза с вручением ордена Ленина и медали "Золотая Звезда" (№ 1496). С мая 1944 года командовал 21-м Гвардейским ИАП, летал на "Аэрокобре".

К 9 мая 1945 года командир 21-го Гвардейского истребительного авиационного полка (23-я Гвардейская истребительная авиационная дивизия, 7-й истребительный авиационный корпус, 2-я Воздушная армия, 1-й Украинский фронт) Гвардии майор А. И. Сергов совершил около 400 боевых вылетов, провёл более 70 воздушных боёв, в которых сбил лично 12 и в составе группы 17 самолётов противника. Воевал на Воронежском, 2-м Украинском, 1-м Украинском фронтах. Имел 2 лёгких ранения.

После окончания войны продолжал службу в ВВС. В 1951 году окончил Высшие лётно-тактические курсы усовершенствования офицерского состава, в 1957 году - Военную академию Генерального штаба. С 1960 года генерал-майор авиации А. И. Сергов - в запасе. Жил в Одессе. До ухода на пенсию работал начальником курсов областного управления торговли. Умер 15 июня 1990 года, похоронен на Таировском кладбище. На здании дома, в котором он жил, установлена мемориальная доска.

Награждён орденами: Ленина (28.09.1943), Красного Знамени (13.09.1942, 22.10.1944, 25.04.1945), Отечественной войны 1-й степени (12.05.1945, 11.03.1985), Красной Звезды (трижды, в том числе - 06.11.1941); медалями.