Клуб был основан в 1991 году и в первом же своем сезоне стал чемпионом Дагестана. Почулив через год профессиональный статус, начал выступления в чемпионате России со второго дивизиона, где играл до повышения в 1996 году (тренер Эдуард Малофеев). В 1999 году «Анжи» выиграл первый дивизион. В 2000 году команда дебютировала в премьер-лиге и чуть было не взяла бронзовые медали. Пенальти против «Анжи» на 95-й минуте последнего матча лиги — и бронза достается «Торпедо». «Анжи» финишировал четвертым — лучший результат в истории клуба. В 2001 году они вышли в финал Кубка России, но проиграли «Локомотиву» в серии пенальти.

«Анжи» вылетел из премьер-лиги в 2002 году и играл в первом дивизионе, пока не взял там 1 место в 2009 году, возвратившись в премьер-лигу после 7 лет отсутствия. 5 декабря 2010 года защитник Шамиль Бурзиев в возрасте 25 лет погиб в автомобильной аварии.

18 января 2011 клуб был куплен миллиардером Сулейманом Керимовым, но позже стало известно, что президент Дагестана Магомедсалам Магомедов передал 100 процентов акций клуба в обмен на оказание финансовой поддержки. Керимов планирует вложить более 200 миллионов долларов в развитие инфраструктуры, из которых значительное количество пойдет в строительстве нового стадиона вместимостью более 40000 зрителей, который будет отвечать всем требованиям УЕФА.

Зимний передач 2011 года были историческим для клуба и его болельщиков. 16 февраля клуб официально объявил о подписании легенды мирового футбола, чемпиона мира 2002 года 37-летнего бразильца Роберто Карлоса. 27 февраля контракт с «Анжи» подписал Жусилей да Силва. 10 марта клуб подписал марокканца Мбарка Буссуфу.

Летом 2011 года клуб подписал Балажа Джуджака за 14 миллионов евро, полузащитника сборной Россия Юрия Жиркова из Челси. А 23 августа 2011 подписан камерунский нападающий Самуэль Это'О за сумму около €28 млн. и на зарплату около 20,5 миллионов евро в год.