Najstarszy budynek meczetu w Dżenne został bez wątpienia wzniesiony między 1180 a 1330 rokiem. Z zapisków imama As-Sa'adiego z 1620 roku wynika, że w 1180 roku władca Koi Kunboro oficjalnie przyjął islam. Po tym wydarzeniu przekazał swój pałac wiernym i kazał przebudować go na Wielki Meczet. Jego potomkowie wznieśli jeszcze wieże i mury, tak więc obecnie za datę założenia meczetu najczęściej uznaje się rok 1240.

W 1834 roku Seku Amadu, założyciel państwa Fulan w środkowym biegu Nigru, kazał zniszczyć sześćsetletni wówczas budynek, ponieważ uważał powstały z pałacu meczet za zbyt luksusowy i urządzony ze zbytnim przepychem. Do naszych czasów z pierwotnego budynku zachowała się jedynie część z grobami dawnych afrykańskich władców. Drugi meczet zbudowano na miejscu starego w 1896 roku, jednak był on dużo skromniejszy. Później jednak rozbudowano go, tak aby wielkością i wyglądem przypominał dawną świątynię. Budowa obecnego Wielkiego Meczetu rozpoczęła się w 1906 roku, a zakończono ją prawdopodobnie w 1907 lub 1909 roku. Dżenne było wówczas częścią Francuskiej Afryki Zachodniej i jest możliwe, że Francuzi wspierali politycznie i ekonomicznie wznoszenie meczetu i położonej obok medresy.

Współcześnie do wielu meczetów w Mali doprowadzono elektryczność i zainstalowano w nich urządzenia sanitarne. W wielu wypadkach zniszczono przez to wygląd i strukturalną spójność budynków. Wielki Meczet w Dżenne został wprawdzie wyposażony w system głośników, mieszkańcy miasta jak dotąd skutecznie sprzeciwiają się jednak modernizacji całego budynku. Współcześnie meczet zamknięty jest dla nie-muzułmanów po incydencie ze zorganizowaniem na jego dachu i w pomieszczeniach modlitewnych sesji fotograficznej dla producentów odzieży. Co roku społeczność Dżenne prowadzi prace konserwacyjne meczetu zapobiegające dalszej erozji poprzez pokrywanie ścian zewnętrznych błotem[1].