Situada a la ciutat vella de Damasc, després de la conquesta àrab, la mesquita va ser construïda pel califa omeia Walid I l'any 705, sobre la catedral romana d'Orient dedicada a Joan Baptista des de l'època de l'emperador romà Constantí I el Gran (emprant deu anys per a la seva remodelació). Té una capella que es diu que conté el cap de sant Joan Baptista (Yahya),[1] considerat com a profeta tant pel cristianisme com per l'islam. Aquest edifici hauria ocupat un anterior temple romà dedicat a Iupiter Damascenus, originàriament el déu sirià Hadad, deu de les tempestes i la pluja,[2] i model del temple del Sol (Palmira).

També hi ha importants referències dins de la mesquita per als xiïtes, com el lloc on es conserva el cap d'al-Hussayn ibn Alí ibn Abi-Tàlib, net del profeta Mahoma, dipositat allà pel califa Yazid I. També és famosa per albergar el mausoleu del soldà Saladí, que es troba en un petit jardí contigu a la paret nord de la mesquita.

També va ser edificada pel califa Walid I, deu anys després, la Gran Mesquita d'Alep, que va ser restaurada el 2005 i llueix novament amb tota la seva esplendor.