L'isola di Gerba ospita una comunità ebraica composta da circa un migliaio di anime e la sinagoga funge da centro della vita religiosa della comunità.[1] Secondo la leggenda, la costruzione della sinagoga risale alla fuga dei sacerdoti in seguito della distruzione del tempio di Salomone da parte dei babilonesi sotto Nabucodonosor II nell'anno 586 a.C. (o, in alternativa, in seguito alla distruzione del secondo tempio nel 70 d.C.). I sacerdoti portavano con loro una porta e una pietra del tempio distrutto. In epoca moderna, l'abbigliamento della locale comunità ebraica comprende una fascia nera attorno ai pantaloni, che ricorda la distruzione del tempio.[2]

Un'altra tradizione afferma che la sinagoga fu costruita in un luogo in cui viveva una ragazza (ghriba, ossia isolata). In seguito alla sua morte, il suo corpo non corrotto fu trovato dagli ebrei del villaggio vicino, e fu poi sepolto in una grotta che divenne il luogo di un pellegrinaggio annuale per il Lag Ba'omer.

Nel 1985, durante i festeggiamenti per la Simchat Torah, un poliziotto locale, responsabile della sicurezza della sinagoga, ha aperto fuoco sulla folla, uccidendo tre persone, tra cui un bambino, e ferendone 15. L'11 aprile 2002, un camion pieno di esplosivi fu fatto esplodere vicino alla sinagoga, uccidendo 21 persone, tra cui 14 turisti tedeschi, cinque cittadini tunisini e due cittadini francesi. Al-Qaeda rivendicò la responsabilità dell'attentato,[3] che fu scoperto essere stato ideato da Khalid Sheikh Mohammed e finanziato da un residente pakistano in Spagna.[4]

Il 9 maggio 2023 un ufficiale della Guardia Nazionale tunisina ha ucciso un collega e poi, dopo un viaggio di 21 km, è giunto a Gerba per attaccare la sinagoga, dove si era radunata una folla di un migliaio di pellegrini per festeggiare Lag Ba'omer[5]. Una volta giunto davanti al tempio l'attentatore a aperto il fuoco contro le forze di sicurezza schierate a difesa dell'edificio. Nell'attacco sono morti due pellegrini (un cittadino francese ed uno tunisino residente in Israele), lo stesso attentatore e tre poliziotti[5].

La sinagoga è gestita da un comitato di amministrazione indipendente istituito alla fine del XIX secolo, quando Gerba era sotto protettorato francese. Il comitato di amministrazione organizza il pellegrinaggio annuale e distribuisce le entrate agli anziani del villaggio.