De locatie van de tempel was al sinds de prehistorie een plaats waar chtonische goden en heroën werden vereerd. Volgens de overlevering zou Deukalion hier een tempel hebben gebouwd boven aan de kloof waardoor het water wegliep na de zondvloed. Peisistratos de jongere (de kleinzoon van de bekende tiran) begon in 515 v.Chr. met de bouw van een monumentale tempel, maar moest een jaar later toen de tiran Hippias in ballingschap ging, het werk staken terwijl het stylobaat nog niet eens af was. De tempel bleef ca. 400 jaar onafgemaakt totdat Antiochus IV Epiphanes in 174 v.Chr. de bouw weer opnam naar een ontwerp van de Romeinse architect Cossutius, die de Dorische orde verving door de Korinthische. De tempel werd voltooid onder keizer Hadrianus in 124/125. Hij wijdde persoonlijk de tempel in tijdens zijn tweede bezoek aan Athene in 132.