Le site est occupé depuis la préhistoire comme le prouvent plusieurs découvertes archéologiques[1].

La ville est plus tard une cité numide puis romaine. Nefta est le siège d'un évéché sous les Byzantins et de nos jours un diocèse titulaire de l'Église catholique en Tunisie depuis 1933[2].

Après la conquête musulmane, elle devient un haut lieu du soufisme : la confrérie soufie de la Qadiriyya est connue dans tout le Maghreb. L'influence de ce courant religieux reste présente jusqu'à nos jours. La ville abrite également une centaine de marabouts dont le célèbre Sidi Bou Ali qui prend la ville aux musulmans ibadites et la convertit à l'islam sunnite au XIIIe siècle. Il fonde une confrérie religieuse influente, un pèlerinage étant organisé annuellement autour de la zaouïa de ce saint.