Родился 8 февраля 1916 года в городе Москве. Окончил среднюю школу, в 1935 году - Московский техникум точной механики. С 16 августа 1935 года в рядах Военно-Морского Флота. В ноябре 1937 года окончил Ейское военно-морское училище лётчиков и оставлен в нём лётчиком-инструктором. С августа 1941 года - командир звена, инструктор эскадрильи переучивания. С февраля 1942 года - командир авиаотряда 5-й эскадрильи ВМАУ имени Сталина в городе Моздоке. В июле 1942 года за нарушение воинской дисциплины снят с должности и назначен в резерв 2-го авиационного полка ВВС ВМФ. С августа 1942 года - пилот 65-го авиационного полка специального назначения ВВС РККА.

В марте 1943 года старший лейтенант А. П. Шипов был направлен на Северный Флот в должности командира звена 1-й эскадрильи 20-го ИАП ВМФ, находящегося на переформировании. С 15 июня 1943 года - в действующей армии. 16 сентября 1943 года назначен штурманом полка. Летал на Як-1, Як-9, Як-7 и "Аэрокобре".

К октябрю 1944 года штурман 20-го истребительного авиационного полка (14-я смешанная авиационная дивизия, ВВС Северного Флота) капитан А. П. Шипов совершил 68 боевых вылетов, в 21 воздушном бою сбил лично 11 самолётов противника (ещё 5 личных побед были записаны предположительно) и 1 повредил. За эти подвиги был представлен к высшей награде страны.

С 7 по 25 октября 1944 года принимал активное участие в боевых действиях в ходе Петсамо-Киркенесской наступательной операции войск Карельского фронта, сбив ещё 1 самолёт противника. Указом Президиума Верховного Совета СССР от 5 ноября 1944 года удостоен звания Героя Советского Союза с вручением ордена Ленина и медали "Золотая Звезда" (№ 5052).

С 15 ноября 1944 года - начальник штаба 78-го ИАП ВВС СФ, где летал на "Киттихауке" и "Аэрокобре". С апреля 1945 года майор А. П. Шипов вновь служил штурманом 20-го ИАП ВВС СФ, летая на "Аэрокобре". Всего выполнил около 80 боевых вылетов, провёл около 25 воздушных боёв, сбил 12 самолётов противника лично и 5 предположительно.

После войны продолжал службу в авиации ВМФ СССР. С сентября 1945 года - штурман 26-го САП ВВС СФ. С ноября 1946 по май 1951 гг. учился в Военно-Воздушной академии ВВС РККА (в Монино). С мая 1951 года - командир 1727-го ИАП ВВС Черноморского Флота. С апреля 1953 года - командир 4-й ИАД, там же. В ноябре 1957 года убыл на учёбу, в ноябре 1959 года окончил военно-морской факультет Военной академии Генерального штаба Вооружённых Сил СССР. С 1959 года - заместитель командующего ВВС Черноморского Флота по боевой подготовке - начальник боевой подготовки ВВС флота. С января 1961 года - заместитель командующего авиацией и член Военного Совета ВВС Черноморского Флота. С 19 марта 1964 года генерал-майор авиации А. П. Шипов - в запасе. Жил в Москве. Работал в научно-исследовательской организации. Умер 1 июня 1971 года, похоронен на Введенском кладбище.

Бюст А. П. Шипова, в числе 53-х лётчиков-североморцев, удостоенных звания Героя Советского Союза, установлен на Аллее героев-авиаторов Северного флота, открытой 29 октября 1968 года на улице Преображенского в посёлке Сафоново ЗАТО город Североморск Мурманской области.

Награждён орденами: Ленина (05.11.1944), Красного Знамени (07.09.1943, 02.10.1943, 04.06.1955), Красной Звезды (15.11.1950, 22.02.1955); медалями, в том числе: "За боевые заслуги" (10.11.1945).