Ghriba signifie « étrange » en arabe et reflète le statut spécial de la synagogue dans les traditions juives de Tunisie. Elle est la plus connue d'un certain nombre de synagogues portant le même nom et situées en divers lieux d'Afrique du Nord : en Tunisie, en Algérie et en Libye.

Selon la légende la plus populaire, imprimée pour la première fois dans un livre du rabbin Abraham Haim Addadi de Tripoli (Hashomer Emet publié à Livourne en 1849)[1], des prêtres appelés Cohanim se seraient installés sur l'île de Djerba après la prise de Jérusalem et l'incendie du Temple de Salomon par l'empereur Nabuchodonosor II en 586 av. J.-C.[2]. Ils auraient emporté un élément du temple détruit qui aurait été inséré dans la synagogue[3] ; les visiteurs peuvent voir une pierre incorporée à l'une des voûtes de la synagogue et qui serait la pierre originale rapportée de Jérusalem. Toutefois, ces affirmations restent hypothétiques et ne sauraient être considérées comme un fait établi[4],[3] : les plus anciennes synagogues connues aujourd'hui sont situées en Israël et sont contemporaines de la destruction du second Temple de Jérusalem vers l'an 70.

D'après une autre tradition rapportée par l'historien Nahum Slouschz à partir de récits faits par des lettrés djerbiens au début du XXe siècle, l'endroit où s'élève de nos jours la Ghriba était une colline à laquelle personne ne prêtait intérêt. Un jour, les Juifs de Hara Sghira y découvrirent une jeune fille très belle vivant seule dans une cabane faite de branchages[5]. Entourée d'une aura de sainteté, personne n'aurait osé venir la voir et lui demander la raison de sa présence par respect pour sa personne. Un soir, ils virent la hutte en feu mais craignirent de s'approcher, pensant que la jeune fille était en train de faire de la magie. Puis, l'incendie terminé, ils s'approchèrent de la cabane réduite en cendres et y découvrirent la jeune fille morte mais épargnée par les flammes. Réalisant alors qu'il s'agissait d'une sainte, ils comprirent qu'ils auraient dû l'aider dans sa solitude et entamèrent la construction de la Ghriba sur le site[5].

Il est difficile de déterminer à quelle époque la renommée de la Ghriba a dépassé le cadre originel de Djerba. À partir de la seconde moitié du XIXe siècle, on voit apparaitre des témoignages soulignant son caractère sacré, reconnu au-delà de la communauté juive par des musulmans[5]. La synagogue attire des pèlerins venus de Tunisie et de la Libye voisine, toujours plus nombreux. Il est possible que l'émigration à cette époque des Juifs djerbiens dans ces régions ait contribué à la diffusion du pèlerinage[5]. On sait d'après le témoignage de Slouschz qui visite les lieux au début du XXe siècle que l'édifice a été agrandi dans les années 1860 ou 1870 à l'aide de « pierre tumulaires que l'on a trouvé dans le cimetière avoisinant les murs de la maison sainte »[5]. Il décrit lui-même l'édifice comme un « bâtiment carré, assez sobre d'aspect et manquant totalement de style [...] À l'intérieur, des couloirs obscurs précèdent une nef carrée ayant un « Almenor » au milieu, et en haut une galerie appuyée sur des colonnes : rien de particulier, de caractéristique »[5].

Dans les années 1950, une nouvelle oukala (caravansérail) est construite pour accommoder les Juifs libyens. Cependant, la communauté de ce pays disparaît complètement dans les années 1960 et le nouveau bâtiment reste vide[5].

À cette époque, l'effet conjugué de l'extinction des communautés juives de Libye et de Tunisie et du développement du tourisme de masse changent considérablement la nature du pèlerinage. Des agences de voyages visant particulièrement les Juifs originaires de Tunisie en France commencent à proposer des formules mêlant tourisme religieux et balnéaire[6].

En 1985, la synagogue est une première fois touchée par une attaque lorsqu'un soldat tunisien chargé de maintenir l'ordre ouvre le feu dans l'enceinte de la synagogue de la Ghriba et tue cinq personnes, dont quatre Juifs[7]. Le 11 avril 2002, un attentat terroriste, perpétré par un Franco-Tunisien de 25 ans au volant d'un camion-citerne et lié au réseau terroriste Al-Qaïda, touche l'édifice et fait 21 victimes[8]. Le 9 mai 2023, un membre de la garde nationale ouvre le feu dans la synagogue, au moment du pèlerinage annuel, et fait cinq morts (deux fidèles et trois membres des forces de sécurité) avant d'être abattu par un autre membre de la garde nationale[9].