Анатолий Николаевич Александров родился 13 (25) мая 1888 года в Москве в музыкальной семье: отец - фармацевт Николай Александрович Александров; мать - пианистка, ученица П.И.Чайковского Анна Яковлевна Александрова-Левенсон.Мать дала ему первые уроки игры на фортепиано. В годы детства будущего композитора семья часто переезжала. В 1906 году окончил Томскую мужскую гимназию с золотой медалью. С 1906 года семья снова стала жить в Москве.
После встречи с С.И.Танеевым стал заниматься сначала у его ученика Н.Жиляева, а потом у самого Танеева (1907-10). В 1906-09 гг. учился на историко-философском факультете в Московском университете.
В 1910 году поступил в Московскую консерваторию, где изучал фортепиано под руководством К. Н. Игумнова (до 1915 года) и композицию под руководством С. Н. Василенко. В 1916 году окончил консерваторию с малой золотой медалью.
Участвовал в Первой мировой войне, в годы гражданской войны служил в РККА в частях особого назначения в качестве военного музыканта - пианиста. Вплоть до 1974 года выступал на концертах как пианист с исполнением своих произведений.
В 1918-19 гг. работал в Наркомпросе РСФСР, в 1919-20 гг. - дирижёр Камерного театра, в 1922-23 годах - дирижёр и редактор Радиовещания в Москве. В 1923-65 гг. преподавал в Московской консерватории (с 1926 года - профессор).
Среди его учеников - Н.Халмамедов, Н.Аносов, В.Бунин, М.Иорданский, Р.Леденёв, М.Меерович, К.Молчанов, М.Музафаров, Г.Мушель, И.Неймарк, Ю.Слонов, Е.Тиличеева, Ю.Фортунатов, Н.Чемберджи.
Заслуженный деятель искусств РСФСР (1946). Народный артист РСФСР (1964), СССР (1971). Сталинская премия второй степени (1951) за вокальную сюиту «Верность» (1950), цикл романсов (А.Пушкин) и фортепианные пьесы для детей.
Награждён Орденом Трудового Красного Знамени (1943), Орденом Ленина (1953), Орденом Дружбы народов (1978), Медалью «В память 800-летия Москвы», Медалью «В ознаменование 100-летия со дня рождения Владимира Ильича Ленина» (1970),
Медалью «За доблестный труд в Великой Отечественной войне 1941-1945 гг.», Доктор искусствоведения (1941). Умер 16 апреля 1982 года. Похоронен на Введенском кладбище (20 уч.).