Родился 5 июня 1919 года в деревне Митяево (ныне Можайский район Московской области). Окончил 7 классов средней школы, в 1938 году - Дзержинский аэроклуб города Москвы. Работал электриком на автобазе Госбанка СССР, а после окончания курсов - шофёром. С 1 декабря 1939 года в рядах Красной Армии, призван Дзержинским РВК (город Москва). Осенью 1940 года окончил Борисоглебскую военную авиационную школу лётчиков. Служил инструктором-лётчиком в 1-м ЗИАП.

С 18 октября 1941 года младший лейтенант А. А. Грачёв на фронтах Великой Отечественной войны. Боевую деятельность начал в составе 438-го ИАП, летал на ЛаГГ-3. С июня 1942 года - заместитель командира эскадрильи в 272-м ИАП, летал на ЛаГГ-3 и Ла-5. 3 августа 1942 года легко ранен в бою.

К сентябрю 1943 года заместитель командира эскадрильи 272-го истребительного авиационного полка (309-я истребительная авиационная дивизия, 1-я Воздушная армия, Западный фронт) старший лейтенант А. А. Грачёв совершил 210 боевых вылетов, в 54 воздушных боях сбил лично 16 и в составе группы 6 самолётов противника. За эти подвиги представлен к высшей награде страны.

С декабря 1943 года - командир эскадрильи в 49-м ИАП, где продолжал летать на Ла-5. Указом Президиума Верховного Совета СССР от 4 февраля 1944 года удостоен звания Героя Советского Союза с вручением ордена Ленина и медали "Золотая Звезда" (№ 2806). С июля 1944 года воевал в 159-м Гвардейском ИАП, летал на Ла-5.

К 9 мая 1945 года командир эскадрильи 159-го Гвардейского истребительного авиационного полка (229-я истребительная авиационная дивизия, 4-я Воздушная армия, 2-й Белорусский фронт) Гвардии капитан А. А. Грачёв совершил 377 боевых вылетов, провёл 70 воздушных боёв, в которых сбил лично 27 и в составе группы 7 самолётов противника. Сражался на Западном, Калининском и 2-м Белорусском фронтах.

После окончания войны продолжал службу в ВВС. С 15 июня 1953 года Гвардии капитан А. А. Грачёв - в запасе. Жил и работал в Москве. Умер 26 апреля 1995 года, похоронен на Кунцевском кладбище.

Награждён орденами: Ленина (04.02.1944), Красного Знамени (14.08.1943, 23.12.1944), Александра Невского (24.05.1945), Отечественной войны 1-й степени (20.10.1943, 11.03.1985), Красной Звезды (03.12.1942), "Знак Почёта" (25.07.1949); медалями, в том числе "За боевые заслуги" (31.07.1948, 07.05.1951).