Se puede decir con seguridad que la primera mezquita de Djenné fue construida entre 1180 y 1330. El Imán de la mezquita Es-Sa'di, escribió en 1620 que en el año 1180 el sultán Koi Konboro se convirtió al islam. Más tarde entregó su palacio y mandó construir para los creyentes la primera mezquita de Djenné. Posteriormente se construyeron la torre y un muro adicional, y hoy se considera 1240 el año de su fundación.

Amadu Hammadi Bubu (también: Seku Amadu), el fundador del Imperio de Massina, dejó en 1834 que la antigua mezquita, de 600 años, se derruyese, lo que se produjo en poco tiempo, debido a una lluvia continuada. Entonces consideró esa mezquita, surgida de un palacio, demasiado exuberante y lujosa. La única parte que permaneció del edificio original es el recinto que contiene las tumbas de los líderes locales. La segunda mezquita se construyó nuevamente hacia 1896 sobre la base de los planos antiguos, esta vez de apariencia más humilde. Fue demolida de nuevo para construir la mezquita que hay actualmente, la cual se hizo parecida en aspecto y tamaño a la primera. La construcción de la Gran Mezquita actual empezó en 1906 y se finalizó entre 1907 y 1909. Ismaila Traoré, el presidente del gremio de albañiles dirigió y supervisó su construcción. En esa época, Djenné era parte de El África Occidental Francesa y los franceses pudieron ofrecer apoyo económico y político para la construcción de la mezquita y una madrasa cercana.

Muchas mezquitas de Malí cuentan con instalaciones eléctricas y sanitarias. En algunos casos se ha cubierto la fachada de azulejos, lo que ha arruinado su aspecto histórico y ha comprometido la integridad estructural del edificio. Aunque la “Gran Mezquita de Djenné” ha sido equipada con un sistema de megafonía, los ciudadanos de Djenné se han resistido a otras modernizaciones del edificio.

La Gran Mezquita fue cerrada para los no musulmanes después de haber sido utilizada para una sesión de imágenes de moda de la revista Vogue en la azotea y el área de oración de la misma. Las fotos de mujeres ligeras de ropa fueron consideradas una violación del acuerdo que la revista había hecho con los líderes locales.[1]​