Родился 17 октября 1918 года в городе Шебекино (Белгородская область). Окончил 10 классов средней школы. В августе 1937 года добровольцем вступил в ряды Красной Армии. В 1940 году окончил Чугуевское военное авиационное училище лётчиков. Служил в строевых частях ВВС.

С июня 1941 года лейтенант А. Г. Шевцов на фронтах Великой Отечественной войны в должности командира звена 159-го ИАП (39-я ИАД, ВВС Ленинградского фронта), летал на МиГ-3. В начале 1942 года убыл на курсы усовершенствования штурманов. В июле 1942 года направлен в 171-й ИАП (6-й истребительный авиационный корпус ПВО). Летал на МиГ-3, "Киттихауке" и Ла-5.

К августу 1943 года штурман 171-го истребительного авиационного полка (315-я истребительная авиационная дивизия, 15-я Воздушная армия, Брянский фронт) капитан А. Г. Шевцов совершил 220 боевых вылетов, в 47 воздушных боях сбил лично и в группе 13 самолётов противника (в материалах наградного листа говорится о 10 личных и 6 групповых победах). Указом Президиума Верховного Совета СССР от 8 сентября 1943 года удостоен звания Героя Советского Союза с вручением ордена Ленина и медали "Золотая Звезда" (№ 1710).

С июня 1944 года майор А. Г. Шевцов командовал 148-м ИАП (185-я ИАД), летал на Як-9. К концу войны подполковник А. Г. Шевцов совершил более 270 боевых вылетов, провёл около 50 воздушных боёв, в которых сбил 13 самолётов противника лично и 4 в составе группы (в материалах наградного листа говорится о 14 личных и 6 групповых победах). Сражался на Ленинградском, Брянском и 1-м Прибалтийском фронтах.

После окончания Великой Отечественной войны продолжил службу в ВВС. В 1949 году окончил Военную академию имени М. В. Фрунзе. С 1949 года служил в Войсках ПВО страны, был заместителем командира дивизии. С 1951 года - командир 97-й истребительной авиационной дивизии в Калуге. С января по август 1952 года дивизия вела боевые действия в Северной Корее. Боевую работу вёл на МиГ-15, сбитых самолётов противника не имел.

В 1956 году окончил Высшую военную академию имени К. Е. Ворошилова. С 1956 года - заместитель командира, затем командир истребительного авиационного корпуса. С января 1960 года - первый заместитель командующего Воздушной армией. С апреля 1961 года - в Ракетных войсках стратегического назначения СССР, первый заместитель командующего 50-й ракетной армией (Смоленск). С августа 1962 года - командующий 43-й ракетной армией (Винница). С июня 1966 года - начальник Главного штаба - 1-й заместитель Главнокомандующего Ракетными войсками стратегического назначения СССР, член Военного Совета РВСН. С сентября 1976 года генерал-полковник А. Г. Шевцов - в запасе. Жил в Москве. Умер 28 апреля 1988 года, похоронен на Кунцевском кладбище.

Награждён орденами: Ленина (08.09.1943, 1966, 1970), Красного Знамени (26.02.1942, 18.07.1943, 11.05.1945, 1968), Александра Невского (30.04.1944), Отечественной войны 1-й степени (01.08.1944, 11.03.1985), Красной Звезды (1952, 1972), "За службу Родине в Вооружённых Силах СССР" 3-й степени (1975); медалями, иностранным орденом.