Алексей Максимович Каледин родился 12 (24) октября 1861 в хуторе Каледина, станицы Усть-Хоперской Области войска. Он происходил из старинного казачьего рода, его отец был полковник. Окончил Воронежскую военную гимназию, кадетский корпус, Петербургское Михайловское артиллерийское училище (1882), Императорскую Николаевскую академию Генерального штаба (1889). В 1903-06 начальник Новочеркасского юнкерского училища, в 1906-10 помощник начальника Донского войска, затем командир бригады 11-й кавалерийской дивизии. Во время Первой мировой войны командовал 12-й кавалерийской дивизией, 12-м армейским корпусом, 8-й армией. Как строевой командир отличался скрупулезностью (лично ставил задачи даже батальонам и батареям), и личной храбростью; А. И. Деникин отмечал, что Каледин не посылал, а водил войска в бой. Высшим достижением его как военачальника считается Брусиловский прорыв (Луцкий прорыв) в мае 1916, когда армия Каледина наголову разбила 4-ю австрийскую армию и в течение 9 дней продвинулась на 70 верст вперед.
К Февральской революции Каледин отнесся отрицательно. Брусилов, характеризуя Каледина, отмечал, что он «потерял сердце и не понимает духа времени». Каледин отказался выполнять распоряжения Временного правительства о демократизации в войсках и был отстранен от командования армией, не получив нового назначения. Весной 1917 уехал на Дон, в конце мая участвовал в Новочеркасске в работе Донского Войскового Круга (26 мая — 18 июня); уступив уговорам казачьей общественности, согласился на избрание войсковым атаманом. Каледин стал первым выборным атаманом войска Донского после того, как в 1709 выборность была упразднена Петром I. Осознавая свое положение, Донской атаман отмечал: «...Я пришел на Дон с чистым именем воина, а уйду, быть может, с проклятиями».
14 августа 1917 в речи на московском Государственном совещании потребовал в целях доведения войны до победного конца поставить армию вне политики, запретить митинги и собрания в воинских частях, упразднить все Советы и комитеты выше полковых, а компетенцию оставшихся ограничить хозяйственными вопросами, дополнить декларацию прав солдата декларацией его обязанностей, решительными мерами поднять дисциплину на фронте и в тылу. Поддержал выступление генерала Л. Г. Корнилова. 1 сентября 1917 военный министр А. И. Верховский приказал арестовать Каледина, однако Войсковое правительство отказалось выполнить приказ и 4 сентября А. Ф. Керенский его отменил при условии «ручательства» Войскового правительства за Каледина.
25 октября 1917 выступил с обращением, в котором объявил захват власти большевиками преступным, и заявил, что впредь до восстановления законной власти в России Войсковое правительство принимает на себя всю полноту власти в Донской области. 27 октября объявил военное положение в области войска Донского и пригласил в Новочеркасск членов Временного правительства и Временного Совета Российской республики («Предпарламента») для организации борьбы с большевиками. Однако, когда 2 ноября на Дон приехал генерал М. В. Алексеев, Каледин, сочувственно отнесясь к его просьбе «дать приют русскому офицерству», просил Алексеева, учитывая резко негативные настроения казачества по отношению к Временного правительству, не задерживаться в Новочеркасске более недели.
26 ноября 1917 власть в Ростове и Таганроге захватили большевики. Каледин, несмотря на то что, по его словам, ему «было страшно пролить первую кровь», решил все-таки вступить в вооруженную борьбу и был вынужден обратиться за помощью к Алексееву, поскольку казаки поначалу не желали ввязываться в бой. После этого «алексеевская организация» (с 27 декабря 1917 Добровольческая армия) была легализована, а Каледин вместе с Алексеевым и Корниловым составил «триумвират», в котором ему принадлежала вся полнота власти в Донской области.
Общественные деятели, приехавшие на Дон, обвиняли донское правительство в медлительности и политиканстве; однако вряд ли правительство и донской атаман могли проявить решительность в ситуации, когда, по свидетельству Алексеева, «идеи большевизма нашли приверженцев среди широкой массы казаков», которые «глубоко убеждены, что большевизм направлен только против богатых классов — буржуазии и интеллигенции...».
28 января 1918 Корнилов известил Каледина о решении отвести Добровольческую армию на Кубань, поскольку в условиях наступления красных и при отсутствии поддержки со стороны казачества ей грозит гибель. 29 января Каледин собрал заседание правительства, на котором сообщил о решении командования Добровольческой армии и о том, что для защиты Донской области от большевиков на фронте нашлось лишь 147 штыков. Он также заявил. что в таких условиях слагает с себя полномочия войскового атамана.
В тот же день Каледин покончил с собой выстрелом в сердце. В своем предсмертном письме генералу Алексееву он объяснил свой уход из жизни «отказом казачества следовать за своим атаманом».