Родился 2 (15) марта 1915 года в городе Грозный (ныне столица Чеченской Республики). В 1930 году окончил 8 классов, в 1932 году - школу фабрично-заводского ученичества (ФЗУ). Работал слесарем по ремонту паровозов в Грозненском депо, в 1933-1937 гг. - токарем на ремонтно-механическом заводе объединения "Грознефть". В 1936 году окончил Грозненский аэроклуб, в 1937-1938 гг. работал в нём же планеристом-инструктором. С 1 августа 1938 года в рядах Красной Армии, призван Грозненским ГВК. В 1940 году окончил Качинскую военную авиационную школу лётчиков. Служил в частях ВВС Киевского особого военного округа.

С 22 июня 1941 года младший лейтенант А. А. Караев в действующей армии. По 11 июля 1943 года сражался в составе 129-го ИАП (6 декабря 1941 года преобразован в 5-й Гвардейский ИАП). Был лётчиком и старшим лётчиком. Летал на МиГ-3, ЛаГГ-3 и Ла-5. В 1942 году дважды был ранен: в предплечье правой руки и в голову. С 20 января 1944 года - командир звена в 19-й ИАП (19 августа 1944 года преобразован в 176-й Гвардейский ИАП), летал на Ла-5 и Ла-7. Воевал на Западном, Калининском, Юго-Западном, 1-м Украинском и 1-м Белорусском фронтах.

К декабрю 1944 года заместитель командира эскадрильи 176-го Гвардейского истребительного авиационного полка (16-я Воздушная армия, 1-й Белорусский фронт) Гвардии старший лейтенант А. А. Караев совершил 373 боевых вылета, в 75 воздушных боях сбил лично 16 и в составе группы 1 самолёт противника (в наградном листе говорится о 18 личных победах). Указом Президиума Верховного Совета СССР от 23 февраля 1945 года удостоен звания Героя Советского Союза с вручением ордена Ленина и медали "Золотая Звезда".

К 9 мая 1945 года Гвардии капитан А. А. Караев совершил более 500 боевых вылетов, провёл около 80 воздушных боёв, в которых сбил лично 20 и в составе группы 1 самолёт противника.

После войны продолжал службу в ВВС заместителем командира эскадрилий (в Закавказском, Северо-Кавказском и Туркестанском военных округах). С 11 июля 1953 года Гвардии капитан А. А. Караев - в запасе. Жил в городе Грозный. Умер 1 января 1984 года. Был похоронен на Центральном кладбище в Грозном. 9 апреля 2010 года перезахоронен на Аллее Славы Красногвардейского парка в городе Владикавказ (Северная Осетия).

Награждён орденами: Ленина (23.02.1945), Красного Знамени (28.03.1942, 28.02.1943, 25.07.1944); медалями, в том числе "За боевые заслуги" (15.11.1950).