Malgrat que no es coneix la data exacta de la construcció de l'aqüeducte, sembla probable que s'hagués aixecat al segle i dC, en l'època de l'emperador August, coincidint amb el creixement de Tàrraco per la urbanització de la part alta de la ciutat, seu del Concilium provinciae d'Hispània Citerior.[1]

L'aqüeducte va estar en funcionament fins a l'edat mitjana. Va ser restaurat al segle x —sota el regne del califa Abd al-Rahman III de Còrdova— i una altra vegada al segle xviii. Durant el segle xix i el segle xx es van dur a terme diversos treballs de conservació per aturar el deteriorament del monument.

El 1905 es va declarar Bé Cultural d'Interès Nacional i el 2000 Patrimoni de la Humanitat per la UNESCO com a part del Conjunt arqueològic de Tàrraco. Després de l'adquisició del terreny per l'Ajuntament de Tarragona, es va inaugurar l'any 2005 el «Parc Ecohistòric del Pont del Diable» per a protegir tant el monument com el seu entorn natural.

Entre el 2009 i l'octubre de 2011 va ser restaurat fent una representació de l'època romana i permetent el pas d'aigua pel canal de la part superior.[2] Amb la restauració s'han conegut els materials de construcció de l'època, com es va construir l'aqüeducte i fins i tot quanta gent hi va treballar.[3]