Родился 1 мая 1923 года в городе Киеве (ныне столица Украины). С 1937 года жил в Москве. В 1939 году окончил Дзержинский аэроклуб и 6 декабря 1939 года добровольно вступил в ряды Красной Армии. Служил в 654-м БАО (ВВС Московского военного округа). В 1940 году окончил Борисоглебскую военную авиационную школу пилотов и был оставлен в ней инструктором-лётчиком.

С августа 1944 года лейтенант А. М. Ершов в действующей армии. Воевал в составе 233-го ИАП (234-я ИАД)), летал на Як-3. Был командиром звена, заместителем командира эскадрильи. 19 февраля 1945 года южнее Шлетениц (Польша) таранил ФВ-190. С повреждённой плоскостью произвёл благополучную посадку на своём аэродроме.

К 9 мая 1945 года заместитель командира эскадрильи 233-го истребительного авиационного полка (234-я истребительная авиационная дивизия, 6-й истребительный авиационный корпус, 16-я Воздушная армия, 1-й Белорусский фронт) старший лейтенант А. М. Ершов совершил 73 боевых вылета, провёл 12 воздушных боёв и сбил лично 15 самолётов противника (5 последних - в течение одного дня).

После войны был на испытательной работе в НИИ ВВС (1945-1946), НИИ-1 (1946-1948) и ЛИИ (с марта 1948). 17 апреля 1950 года лётчик-испытатель 3-го класса капитан А. М. Ершов погиб при испытании реактивного истребителя Ла-15. Похоронен в Москве на Новодевичьем кладбище.

Награждён орденами: Красного Знамени (29.03.1945, 30.03.1945, 10.05.1945); медалями.