Olympia bola osídlená už v polovici 2. tisícročia pred Kr., pravdepodobne už okolo roku 1000 pred Kr. sa tu konali náboženské slávnosti na počesť najvyššieho Gréckeho boha Dia. V roku 776 pred Kr. sa tu konali prvé olympijské hry - náboženské, kultúrne a športové súťaže, ktoré pretrvali až do roku 426, kedy ich zakázal rímsky cisár Theodosius II.

Hry sa konali každé štyri roky, v medziobdobí bola Olympia malá dedina, v ktorej žilo len niekoľko sto obyvateľov. Počas konania olympijských hier prúdili do Olympie tisíce športovcov a návštevníkov, ktorí tri mesiace pred hrami a tri mesiace po hrách požívali ochranu tzv. posvätného mieru (ekecheiriá) a nikto im nesmel ublížiť.

V samotnej Olympii sa konali i hudobné súťaže. Veľmi populárne boli súťaže píšťalkárov (autelés), trubačov (salpistés) a heroldov či hlásateľov (kérykés), ktorých víťazi potom obstarávali pri športových súťažiach hudobný sprievod, vytrubovali signály a vyvolávali rôzne organizačné hlásenia, mená štartujúcich a potom i víťazov.

Olympia ležala na brehu rieky Alfeios, ktorá sa často rozlievala, takže po zákaze olympijských hier na začiatku 5. storočia po Kr. povodne rozvodnenej rieky zakryli starovekú Olympiu nánosmi bahna, vysokými niekoľko metrov. Olympiu odkryli nemeckí archeológovia na konci 19. storočia.