Los orígenes de la localidad son controvertidos.

La llegada de Sereres en esta zona podría explicarse por los avances de los Almorávides, a los que se les forzó en el siglo XI a dejar el valle del río Senegal para venir a ocupar la "Petite-Côte" (pequeña costa) y la región de Siné.

Joal y Fadiouth podrían también haber sido fundados por Guelwars cuando fueron expulsados por el reino de Gabou. Ambas versiones encuentran fácilmente su justificación si se consideran los nombres patronímicos más extendidos hoy.

El período colonial ve suceder a portugueses, holandeses, franceses e ingleses, y Joal se hace uno de los mostradores más grandes comerciales del oeste de Senegal. El desarrollo del comercio triangular favorece también la penetración cristiana y desde 1636 los misioneros se instalan en la costa. Pero la evangelización encuentra una fuerte resistencia y solo hasta el siglo XIX no comienza a cobrar importancia el cristianismo, particularmente gracias a los franceses. En 1850, una misión es erigida en el pueblo y el primer sacerdote es ordenado en 1885.

También es de señalar en esa época el paso por Joal de El Hadj Oumar Tall, como lo atestigua la mezquita construida en su honor.

Un patrimonio arquitectónico importante recuerda este grandioso pasado, pero la inmensa mayoría de los edificios –incluso el palacio del gobernador– amenazan ruina.