Il santuario fu costruito dal governante sciita buwayide 'Adud al-Dawla nel 977 sopra la tomba di ʿAlī. Dopo essere stato distrutto da un incendio, fu riedificato dal sultano selgiuchide Malik Shah I nel 1086. Ricostruito una terza volta dallo scià safavide Ismāʿīl I poco dopo il 1500, nel 1623 ʿAbbās I il Grande commissionò a 500 uomini la riedificazione, conclusa da suo nipote Safi nel 1632.

Durante l'insurrezione del marzo 1991, a seguito della guerra del Golfo, la Guardia Repubblicana irachena di Saddam Hussein danneggiò il santuario, dove s'erano rifugiati i membri dell'opposizione sciita al regime, e massacrando tutti i suoi occupanti. In seguito il santuario restò chiuso per due anni, ufficialmente per le riparazioni. Saddam Hussein espulse in Iran un gran numero di residenti dell'area, che erano di discendenza persiana.
È stato nuovamente restaurato dal capo spirituale degli ismailiti Dawudi Bohra, il 52° dāʿī muṭlaq, Dr. Syedna Mohammad Burhanuddin.