Родился 5 июня 1919 года в деревне Митяево (ныне — Можайский район Московской области) в рабочей семье. Окончил семь классов средней школы, в 1938 году — Дзержинский аэроклуб в Москве. Работал электриком автобазы Госбанка СССР, затем там же шофёром.
В 1939 году был призван на службу в Рабоче-крестьянскую Красную Армию. В 1940 году он окончил Борисоглебскую военную авиационную школу лётчиков. С октября 1941 года — на фронтах Великой Отечественной войны, лётчик 438-го истребительного авиационного полка. Принимал участие в боях на Западном и 3-м Белорусском фронтах. Участвовал в Курской битве, освобождении Белорусской ССР и Прибалтики, боях в Восточной Пруссии.
К сентябрю 1943 года заместитель командира эскадрильи 272-го истребительного авиационного полка (309-я истребительная авиационная дивизия, 1-я Воздушная армия, Западный фронт) старший лейтенант А. А. Грачёв совершил 210 боевых вылетов, в 54 воздушных боях сбил лично 16 и в составе группы 6 самолётов противника. За эти подвиги представлен к высшей награде страны.
С декабря 1943 года - командир эскадрильи в 49-м ИАП, где продолжал летать на Ла-5. Указом Президиума Верховного Совета СССР от 4 февраля 1944 года удостоен звания Героя Советского Союза с вручением ордена Ленина и медали "Золотая Звезда" (№ 2806). С июля 1944 года воевал в 159-м Гвардейском ИАП, летал на Ла-5.
Всего за время войны Грачёв совершил 270 боевых вылетов, принял участие в 70 воздушных боях, сбив 25 вражеских самолётов лично и ещё 7 — в группе. После окончания войны он продолжил службу в Советской Армии, летал на реактивных самолётах. В 1953 году Грачёв был уволен в запас.
Проживал и работал в Москве. Умер 26 апреля 1996 года, похоронен на Кунцевском кладбище Москвы.
Награждён орденами: Ленина (04.02.1944), Красного Знамени (14.08.1943, 23.12.1944), Александра Невского (24.05.1945), Отечественной войны 1-й степени (20.10.1943, 11.03.1985), Красной Звезды (03.12.1942), "Знак Почёта" (25.07.1949); медалями, в том числе "За боевые заслуги" (31.07.1948, 07.05.1951).
