Vers 1280, Koi Komboro, roi de Djenné, se convertit à l’islam. Il détruit son palais et y fait construire à la place une grande mosquée.
En 1819, Djenné est annexée à l’Empire peul du Macina de Sékou Amadou qui fait détruire la mosquée pour en construire une nouvelle. En 1906, le gouverneur colonial français William Ponty accepte, à la demande du marabout Almamy Sonfo, de reconstruire à l’identique l’ancienne mosquée du roi Koi Komboro. Les travaux, commencés en octobre 1906, seront terminés le 1er octobre 1907.
La grande mosquée peut accueillir environ 1 000 fidèles. Elle mesure 75 mètres de côté et 20 mètres de hauteur. Son toit est soutenu par 100 piliers. Entièrement réalisée en banco, la mosquée bénéficie chaque année d’un crépissage auquel participent tous les habitants de la ville.
La mosquée est typique de l'architecture soudannaise qui inspire les maçons bozos, ceux-ci puisent dans les lignes de ce monument l'esprit des nouvelles mosquées.