Перше поселення тут виникло ще в епоху неоліту, вік його встановлено за знайденими керамічними уламками — приблизно 6 тисячоліття до н. е. У золоту добу на вершині пагорбу стояв мікенський мегарон. У 13 столітті до н. е. на цьому ж місці також був зведений палац, а сам пагорб був укріплений стіною циклопічної кладки завширшки до 5 м, заввишки до 10 та загальною протяжністю 760 м. Грандіозність та надзвичайна надійність стіни, побудованої без використання будь-якого будівельного зв'язуючого розчину, пізніше приписуватиметься міфічним циклопам. В «Одіссеї» Гомер згадує Афінський акрополь як «чудово укріплений будинок Ерехтея» (Одіссея 7.81). Комплекс акрополя ще у мікенську добу передбачав спорудження глибокого колодязя, який би забезпечував містян водою, це набувало надзвичайного значення в період облоги міста.

Навіть у прадавні часи Акрополь вже був осередком політичного та військового життя, а також місцем постійного перебування правителя. Наприкінці 2 тисячоліття до н. е. Акрополь набуває суто культового значення. Богиня Афіна, з одного боку, була покровителькою сил землі, родючості, народжуваності (Поліада), з іншого — вона войовнича захисниця міста і Діва (Паллада). Приблизно у 10-8 ст. до н. е. її культ відправляли у невеликому храмі на тій ділянці, де пізніше був побудований храм Ерехтейон. Згідно з давньогрецькими міфами, її дерев'яну статую скинув на землю Зевс, і вона впала на Акрополь. Мало що відомо про архітектурний ансамбль Афінського акрополя до початку періоду архаїки.