Родился 17 октября 1918 года в городе Шебекино (Белгородская область). Окончил 10 классов средней школы № 1. В августе 1937 года добровольцем вступил в ряды Красной Армии. В 1940 году окончил Чугуевское военное авиационное училище лётчиков. Служил в строевых частях ВВС.

С 22 июня 1941 года лейтенант А. Г. Шевцов на фронтах Великой Отечественной войны в должности командира звена 159-го ИАП (39-я ИАД, ВВС Ленинградского фронта), летал на МиГ-3. В начале 1942 года убыл на Курсы усовершенствования штурманов. В июле 1942 года направлен в 171-й ИАП (6-й ИАК ПВО). С июня 1943 года сражался на Брянском фронте. Летал на МиГ-3, "Киттихауке" и Ла-5.

К августу 1943 года штурман 171-го истребительного авиационного полка (315-я истребительная авиационная дивизия, 15-я Воздушная армия, Брянский фронт) капитан А. Г. Шевцов совершил 220 боевых вылетов, в 47 воздушных боях сбил лично и в группе 13 самолётов противника (в материалах наградного листа говорится о 10 личных и 6 групповых победах). Указом Президиума Верховного Совета СССР от 8 сентября 1943 года удостоен звания Героя Советского Союза с вручением ордена Ленина и медали "Золотая Звезда" (№ 1710).

С 4 июня 1944 года майор А. Г. Шевцов командовал 148-м ИАП (185-я ИАД), летал на Як-9. Сражался на 2-м Прибалтийском и снова Ленинградском фронтах.

К 9 мая 1945 года командир 148-го истребительного авиационного полка (185-я истребительная авиационная дивизия, 14-й истребительный авиационный корпус, 15-я Воздушная армия, Ленинградский фронт) подполковник А. Г. Шевцов совершил около 300 боевых вылетов, провёл около 50 воздушных боёв, сбил лично 13 и в составе группы не менее 4 самолётов противника (в материалах наградного листа говорится о 14 личных и 6 групповых победах).

После окончания войны продолжил службу в ВВС. В 1949 году окончил Военную академию имени М. В. Фрунзе. С 1949 года служил в Войсках ПВО страны, был заместителем командира дивизии. С 1951 года - командир 97-й ИАД в городе Калуга. С января по август 1952 года участвовал в боевых действиях в небе Северной Корее. Летал на МиГ-15, воздушных побед не имел.

В 1956 году окончил Высшую военную академию имени К. Е. Ворошилова. С 1956 года - заместитель командира, затем командир истребительного авиационного корпуса. С января 1960 года - первый заместитель командующего Воздушной армией. С апреля 1961 года - в Ракетных войсках стратегического назначения СССР, первый заместитель командующего 50-й ракетной армией (Смоленск). С августа 1962 года - командующий 43-й ракетной армией (Винница). С июня 1966 года - начальник Главного штаба - 1-й заместитель Главнокомандующего Ракетными войсками стратегического назначения СССР, член Военного Совета РВСН. С сентября 1976 года генерал-полковник А. Г. Шевцов - в запасе. Жил в Москве. Умер 28 апреля 1988 года, похоронен на Кунцевском кладбище.

Награждён орденами: Ленина (08.09.1943, 1966, 1970), Красного Знамени (26.02.1942, 18.07.1943, 11.05.1945, 1968), Александра Невского (30.04.1944), Отечественной войны 1-й степени (01.08.1944, 11.03.1985), Красной Звезды (1952, 1972), "За службу Родине в Вооружённых Силах СССР" 3-й степени (1975); медалями, иностранным орденом.