De Agora van Athene ontstond rond het begin van de 6e eeuw v.Chr. op een open ruimte dicht bij het midden van de stad, aan de noordwestelijke voet van de Akropolis. Dwars over de Agora liep de oude Panathenaeïsche weg van de Dipylonpoort naar de Akropolis.

Een van de eerste openbare gebouwen is het zuidoostelijke bronhuis, dat in 530-520 v.Chr. werd gebouwd en dus stamt uit de tijd van de tirannen. Via terracotta pijpleidingen werd water aangevoerd vanaf de Lycabettus-heuvel. Aan het begin van de 5e eeuw werden afvoerkanalen aangelegd waarmee regenwater werd afgevoerd naar de Eridanos. De meeste van de oudste gebouwen, zowel met een openbare als met een religieuze functie, verrezen aan de westkant van de open ruimte. Deze werden verwoest door de Perzen in 480 v.Chr. In de loop van de 5e eeuw werd de westkant herbouwd en werden ook grote openbare gebouwen aan de noord- en zuidkant van het plein gebouwd. Met de bouw van de marmeren Tempel van Hephaistos (ook wel Theseion genoemd) werd kort na 450 v.Chr. begonnen. Een grote bouwactiviteit werd ontplooid in de tweede helft van de 4e eeuw. In de 2e eeuw v.Chr. kreeg de Agora echter zijn definitieve vorm met de aanleg van grote stoa’s aan zijn zuid- en oostkant.

Het zuidelijke deel van de Agora had zwaar te lijden onder de plunderingen van de Romeinen onder Sulla in 86 v.Chr. Het herstel ging langzaam. Rond 15 v.Chr. richtte de Romeinse generaal Agrippa min of meer midden op het plein het Odeion, een concertzaal, op. Verscheidene oude tempels, met name die van Ares, werden nu vanaf het platteland naar de Agora overgeplaatst. In de 2e eeuw n.Chr. werden enkele nieuwe gebouwen neergezet: de Bibliotheek van Pantainos, een nymphaeum, een basilica, de zogenaamde Monopteros. Rond 100 n.Chr. werd de oude Agora door een overdekte wandelweg verbonden met de nieuwe Romeinse Agora aan de oostkant.

In 267 n.Chr. werd het gedeelte van Athene waar de Agora lag geplunderd door barbaren uit het noorden, de Herulen. Korte tijd later, ca. 280-290, werden de stenen van de verwoeste gebouwen gebruikt om een verdedigingsmuur te bouwen ten oosten van de oude Agora. Na een eeuw van verwaarlozing werd een aantal grote huizen gebouwd op de hellende grond aan de zuidkant van de Agora, en kort na 400 n.Chr. werd een groot gymnasium gebouwd op de ruïnes van oude gebouwen midden op de Agora. Deze huizen en het gymnasium dienden waarschijnlijk voor het hoger onderwijs in de stad die nog altijd als een centrum van geleerdheid gold. Het gebied werd nogmaals verwoest met de komst van de Slavische volkeren in de jaren 580. Daarna stopte de bewoning in dit gedeelte van Athene.

De bewoning werd hervat in de 10e eeuw toen ook de Kerk van de Heilige Apostelen (Agii Apostoli Solaki) werd opgericht (ca. 1000 n.Chr.). Deze werd echter in 1204 verwoest door indringers uit Nauplion. De kerk werd herbouwd, maar had weer zwaar te lijden in de Onafhankelijkheidsoorlog (1826/27). Toen Athene in 1834 tot hoofdstad van Griekenland werd uitgeroepen volgde koortsachtige bouwactiviteit zodat het hele gebied met huizen was bedekt toen de archeologische opgravingen door de American School of Classical Studies in 1931 van start gingen. Zo'n 350 vervallen negentiende-eeuwse huizen werden onteigend en gesloopt. In de 19de eeuw waren al incidenteel opgravingen gedaan, met name aan de noordkant tijdens de uitbreiding van de spoorweg tussen Athene en Piraeus in 1890-91 (de huidige metrolijn 1). In de jaren 1953-56 werd de Stoa van Attalus herbouwd om te dienen als museum (het Agora Museum) en werkruimte voor de archeologen.