La Grande mosquée de Djenné se distingue des autres mosquées d’Afrique occidentale en ce qu’elle a été construite en un lieu vierge de tout autre édifice religieux antérieur : cet endroit était précédemment occupé par un palais. Le roi Koi Kunboro (ou Komboro), fraîchement converti à l'Islam, fit démolir sa résidence et en 1238 fit construire à son emplacement la grande mosquée.

Les autres mosquées ont été construites habituellement à la place d’édifices pyramidaux coniques, en pisé ou en pierre, censés représenter les esprits protecteurs des ancêtres. Des experts en architecture islamique tels que Labelle Prussin pensent que ces constructions coniques furent intégrées dans la conception des mosquées dans tout le Mali, et considèrent que la Grande mosquée de Djenné en est l’exemple le plus révélateur.

Djenné devint, par la suite, l’une des principales villes des empires du Mali puis du Songhai.

Le conquérant peul Amadou Lobbo, qui enleva Djenné, en 1819, à la suite d’une guerre sainte, fit démolir la grande mosquée de Koi Koumboro, dont la beauté offensait l’islam dépouillé qu’il prêchait et en fit construire une nouvelle. Il estimait que le bâtiment d’origine, qui était un palais transformé, était trop riche. Seul fut conservé un enclos contenant les tombes de chefs locaux.

Une restitution de l’édifice, à l’identique, fut terminée en 1896, mais fut ensuite démolie à nouveau pour faire place au bâtiment actuel alors que Djenné relevait du territoire de l’Afrique-Occidentale française.

En 1906, le gouverneur colonial français William Ponty accepta, à la demande du marabout Almamy Sonfo, de reconstruire à l’identique l’ancienne mosquée du roi Koi Kunboro.

La construction de celle-ci commença en 1906 et fut achevée en 1907. Elle fut dirigée par le chef de la corporation des maçons de Djenné, Ismaïla Traoré. L’autorité française aida administrativement et économiquement la construction de la mosquée[1] ainsi que d’une madrassa voisine.

De nombreuses mosquées du Mali ont reçu des installations électriques et d’adduction d’eau. Dans certains cas, les parois extérieures ont même reçu une couverture de tuiles dénaturant leur apparence traditionnelle et mettant parfois en danger leur intégrité structurelle.

Bien que la Grande Mosquée ait été équipée d’un système de haut-parleurs, les habitants de Djenné ont privilégié la conservation de l’intégrité historique du monument par rapport à une modernisation hasardeuse. Les efforts faits dans ce sens ont reçu l’approbation des tenants de l’authenticité et cette tendance s’est accrue depuis les années 1990.

L’édifice a été fermé aux non-musulmans après qu’un photographe de mode eut pris, sur le toit et à l’intérieur, des photos qui ont choqué ou ont été considérées comme outrepassant l’accord passé avec les autorités locales.

Une réplique en taille réduite de la grande mosquée de Djenné, la mosquée Missiri, fut construite à Fréjus par les troupes coloniales françaises dans les années 1920.