Клуб основала группа баскских студентов, которая проходила обучение в Мадриде. Цветами клуба стали цвета «Атлетика» из родного для основателей Бильбао. В 1911 клубу запретили играть в бело-синем, потому форму пришлось сменить на полосатую бело-красную. В 1923 команду приютил столичный стадион «Метрополитано».
В первом розыгрыше чемпионата Испании (1928 год) мадридцы финишировали на шестом месте. Тяжелые экономические времена после гражданской войны привели к объединению с клубом «Сарагоса Авиасьон», в результате чего в 1939 году образовался клуб «Атлетик Авиасьон». Оно дало прекрасные результаты — клуб становился чемпионом страны в 19240 и 1941 годах. В 1947 наконец появилось знакомое нам название — «Атлетико». После этого переименования случилось еще два чемпионства — в 1950 и 1951.
«Атлетико» имел выход в полуфинал Кубка европейских чемпионов, где проиграл своему соседу «Реалу», но зато дважды обыграл его в финалах кубка Испании — в 1960 и 1961 годах. После второго успеха было успешное участие в Кубке кубков после — победа в финале над «Фиорентиной». В следующем году команда опять оказалась в финале Кубка кубков, но уже не так успешно — поражение от «Тоттенхэма».
Следующее участие в Кубке чемпионов случилось в 1973 году. Опять «Атлетико» дошел до финала. В этот раз соперником была «Бавария». Луис Арагонес открыл счет в дополнительное время, но немцам удалось отыграться на самой распоследней минуте — 1:1. На переигровку испанцам не хватило настроя — 0:4. Зато удалось принять участие в матче за межконтинентальный кубок (от которого отказалась «Бавария»). Мадридцы победили аргентинский «Индепендьенте».
Еще 4 успеха в Кубке Испании пришли в 1976, 1985, 1991 и 1992 годах. Также был выход в финал Кубка кубков-1985/86, в котором уверенно победило «Динамо» Киев — 3:0. Прекрасный сезон 1995/96 «Атлетико» провел под руководством Радомира Антича — первый дубль в истории. Но прошло 4 года, и команда оказалась в Сегунде. Возвращение в Примеру случилось в 2002 под руководством легенды клуба Луиса Арагонеса. А в 2010 году команда выиграла первый евротрофей за 48 лет — Лигу Европы, победив в финале «Фулхэм» благодаря дублю уругвайца Диего Форлана.
