Он родился 19 августа 1913 года в городе Михайловском Свердловской области. До призыва в армию успел окончить школу ФЗО, поработать слесарем на Старотрубном заводе в Первоуральске. В 1933 году по спецнабору попал в Военно-воздушные силы. С 22 июня 1941 года капитан Ефремов — уже в действующей армии. Воевал на Юго-Западном, Калининском, Сталинградском, Центральном и 1-м Белорусском фронтах. Трижды был ранен.

В своем представлении командир 520-го истребительного авиационного полка майор С. Чирва отметил, что командир эскадрильи капитан Ефремов «отличный воздушный боец, хороший разведчик». Уже в 1942 году за боевые заслуги Ефремову был  вручен орден  Красного Знамени. А через несколько месяцев он получил второй орден Красного Знамени — за успешное выполнение боевых заданий по уничтожению группировки противника в районе Сталинграда. Эскадрилья Ефремова сбила 27 самолетов и уничтожила на аэродроме 12  самолетов противника.

Уже после войны Андрей Андреевич рассказал про воздушный бой, разыгравшийся в небе над Одером. Ему была поставлена задача прикрыть с воздуха наши  наземные войска, которые наводили переправы  и расширяли  плацдарм на западном берегу реки. Командир поднял в воздух свою четверку истребителей. У линии фронта получил по радио сообщение: на высоте 1200 метров с северо-запада идет группа бомбардировщиков под прикрытием истребителей. Ефремов приказал своим летчикам завязать бой с истребителями, а сам  с напарником пошел в атаку на бомбардировщики. Сближаясь с ними, маневрируя, дал очередь. Один из бомбардировщиков загорелся в воздухе, остальные повернули  и улетели на свою территорию.  Его боевые товарищи сбили два истребителя, сами потерь не имели. Вернулись на свой аэродром с победой.

К концу войны на счету гвардии майора А. Ефремова было  284 боевых вылета. Им проведено 78 воздушных боев. Лично сбито 19 самолетов противника и 13 — в составе группы. За участие в Берлинской операции в июле 1945  он был награжден орденом Александра Невского. 

В 1945 году А. Ефремов ушел из армии в запас. С 1946 года по 1955 год служил в областном управлении органов внутренних дел в городе Свердловска.