Родился 18 января 1907 года в деревне Старокостеево (ныне Бакалинский район Республики Башкортостан). Окончил 5 классов в деревне Ардатовка (Туймазинского района Башкирии). Работал в сельском хозяйстве. С октября 1929 года в рядах Красной Армии. В 1933 году окончил Оренбургскую военную авиационную школу лётчиков. Служил в строевых частях ВВС Белорусского Особого военного округа.

Участник Советско-Финляндской войны с 7 января по 13 марта 1940 года в составе 4-го ИАП (ВВС 8-й Армии, Северо-Западный фронт), летал на И-15бис. Совершил свыше 50 боевых вылетов. 7 февраля 1940 года вывез с вражеской территории сбитого зенитным огнём будущего Героя Советского Союза, а тогда начальника связи 2-й эскадрильи лейтенанта Анатолия Афанасьевича Морозова. Награждён орденом Красной Звезды.

С 22 июня 1941 года капитан А. Г. Карманов в действующей армии: в должности командира 2-й эскадрильи 4-го ИАП (20-й САД, ВВС Южного фронта), летал на МиГ-3. В воздушных боях сбил лично 3 самолёта противника. 23 июня 1941 года погиб в воздушном бою. Указом Президиума Верховного Совета СССР от 27 марта 1942 года удостоен звания Героя Советского Союза. Похоронен в городе Кишинёве (ныне столица Республики Молдова).

Именем Героя названа улица в селе Бакалы (Бакалинского района Республики Башкортостан). В 1964 году его именем была названа улица в районе Рышкановка (бывшая Школьная), расположенная неподалёку от того места, где находился первый Кишинёвский аэродром. В 2000 году она была переименована в улицу Думитру Рышкану. На доме № 14 размещена мемориальная доска, посвящённая А. Г. Карманову. 6 мая 2005 года установлен бюст на Алее Героев в городе Туймазы (Республики Башкортостан). В 2005 году установлена мемориальная доска на Алее Героев села Бакалы (Бакалинского района Республики Башкортостан). Установлена мемориальная доска на базе МОБУ ООШ села Старокостеево (Бакалинского района). В городе Кишенёве на улице Думитру Рышкану, на доме № 14 размещена мемориальная доска, посвящённая А. Г. Карманову.

Награждён орденами: Ленина (27.03.1942), Красной Звезды (19.05.1940).