Fu costruita fra il 687 e il 691, nell'era degli Omayyadi, dal 9º Califfo, ʿAbd al-Malik b. Marwān. È talora chiamata Moschea di Omar dal momento che, all'epoca del 2º califfo, ʿUmar ibn al-Khaṭṭāb, era stato costruito su quel sito un oratorio in legno (successivamente andato a fuoco). In quel punto esatto in cui ʿUmar aveva pregato al momento della sua visita alla Città Santa, dopo la conquista di Gerusalemme nel 637, fu edificato un santuario adornato da mosaici realizzati da maestranze bizantine, appositamente chiamate dal califfo omayyade.

La Cupola della Roccia fu fatta edificare sfruttando l'opera di artigiani bizantini forniti dall'Imperatore. È edificata a guisa di martyrion, una struttura finalizzata cioè alla conservazione e alla venerazione di sante reliquie ed è un eccellente esempio di arte bizantina del periodo centrale.

La costruzione dell'edificio avrebbe risposto alla volontà del califfo ʿAbd al-Malik di dotare di pregevoli monumenti i suoi domini (opera perfezionata poi dal figlio e successore al-Walīd I) e di contrastare i sentimenti di stupore tra i musulmani alla vista della basilica cristiana del Santo Sepolcro di Gerusalemme, la cui cupola destava grande ammirazione, oltre che di sottolineare il carattere musulmano di un personaggio sacro a musulmani, ebrei e cristiani (Abramo) e celebrare la vittoria dell'Islam sulle altre fedi.

Shlomo Dov Goitein, allora dell'Università Ebraica di Gerusalemme era convinto che la Cupola della Roccia intendesse competere con molti monumenti di altre fedi religiose:

K.A.C. Creswell, nel suo libro Origin of the plan of the Dome of the Rock nota che coloro che edificarono il santuario, usarono le misure della basilica del Santo Sepolcro. Il diametro della cupola del santuario islamico è di 20,20 m (66,3 ft) e la sua altezza di 20,48 m (67,2 ft), mentre il diametro della cupola della Basilica del Santo Sepolcro è di 20,90 m (68,6 ft) e la sua altezza di 21,05 m (69,1 ft).

 La roccia all'interno del manufatto, oggetto di venerazione da parte dei devoti musulmani ed israeliti

La Cupola della Roccia infine - come ricorda lo storico arabo filo-sciita e anti-omayyade al-Yaʿqūbī[3] - avrebbe risposto al preciso intento di trattenere all'interno dei domini omayyadi i sudditi siriani del califfo, che, recandosi alla Mecca per il hajj, avrebbero pericolosamente potuto ascoltare le tesi di parte dell'"anti-califfo" ʿAbd Allāh b. al-Zubayr, che contestava la legittimità del califfato di ʿAbd al-Malik. Fino alla vittoria contro ʿAbd Allāh, la Cupola della Roccia fu infatti destinata a fungere come temporanea alternativa alla Kaʿba, anche se il califfo omayyade non volle mai sostituirla in modo che sarebbe apparso a ogni fedele sacrilego, tanto che per marcare le differenze il ṭawāf che si poteva compiere intorno al santuario gerosolimitano era prescritto dovesse avvenire comunque in senso orario e non, come richiesto nel rito del ḥajj a Mecca, in senso antiorario,[4] senza dimenticare che il califfo omayyade compì più volte il pellegrinaggio a Mecca, prima e dopo la guerra che lo contrappose al suo rivale ʿAbd Allāh b. al-Zubayr.

La sua cupola dorata si staglia su tutte le altre costruzioni di Gerusalemme. La roccia al centro del santuario è ritenuta dai musulmani come il posto in cui Maometto, asceso al cielo nel suo miracoloso viaggio notturno, narrato dal Corano, dell'isrāʾ e del successivo miʿrāj, completò il suo spostamento cominciato a Mecca, prima di cominciare la sua ascesa al cielo.[5] Sulla medesima roccia Abramo (in Arabo Ibrāhīm) sarebbe stato sul punto di sacrificare Ismaele (oppure Isacco[6]) prima di essere fermato da Dio. Una "moschea estrema", al-masjid al-aqṣā, fu costruita nelle sue immediate vicinanze per commemorare l'evento soprannaturale.

La moschea subì numerosi e profondi restauri, da quello del califfo abbaside al-Maʾmūn e d'età fatimide a quelli di epoca mamelucca e ottomana.

All'epoca del Regno Latino di Gerusalemme e fino a quasi tutto il XII secolo, la cupola venne denominata Templum Domini ed ai Cavalieri Templari venne destinata una parte dell'adiacente Templum Salomonis, residenza del re di Gerusalemme e attualmente Moschea al-Aqṣā.