ההתיישבות בגבעת האקרופוליס החלה עוד בתקופה הנאוליתית, באלף השישי לפנה"ס בערך. ייתכן שבתקופה המיקנית, עמד במקום מגרון שאף אליו התייחס כנראה הומרוס בכתביו. ממצאים מעידים כי בתקופת הפלישה הדורית, שעמה החלה תקופת המעבר ביוון, לא נפגעו המבנים שהתקיימו בגבעה וזאת גם בהתאם לאגדה אתונאית בדבר עמידתו של המקום המבוצר נגד התקפות הדורים, בתקופה זו.

בתקופה הארכאית, החלה הבנייה האתונאית באקרופוליס אשר הגיעה לשיאה במאה ה-5 לפנה"ס, (התקופה הקלאסית) בה הנהיג פריקלס, גדול המנהיגים האתונאיים, את תנופת הבנייה המאסיבית שבמסגרתה נבנו רוב המבנים המפוארים של האקרופוליס, לרבות הפרתנון.

האקרופוליס המשיכה לתפקד גם בתקופת הכיבוש הרומי של יוון ומבניה נותרו שלמים ברובם גם במהלך ימי הביניים. דווקא בעת החדשה החל האתר להתפורר ולהיבזז. ב-1687 נפגע קשות הפרתנון יחד עם עוד כמה מבנים, במהלך הפגזות של הצבא הוונציאני, זאת לאחר שהאקרופוליס בוצרה על ידי העות'מאנים כנגדם.

בתחילת המאה ה-19 נלקחו אוצרות רבים, בעיקר יצירות פיסול יווני חשובות, מהאתר על ידי תומאס ברוס, הרוזן מאלג'ין והשגריר הבריטי בקונסטנטינופול. אוצרות אלה הועברו לבריטניה ונמצאים שם עד היום.

רק במחצית השנייה של המאה ה-20, התפתחה המודעות לשימור האקרופוליס ומאמצים לשימור ושחזור נעשים עד היום.