אגדז נוסדה במאה ה-11 על ידי בני שבט האוסה, שהגיעו לאתר מהדרום ונסמכו על מעיינות הנובעים למרגלות הרי אייר. ההאוסה פיתחו סגנון אדריכלות ייחודי שהתבסס על שימוש בלבני בוץ שנוצקו מחומרים מקומיים. הברברים והטוארג שנושבו באתר לאחרי ההאוסה, המשיכו ועשו שימוש בסגנון זה ואף פיתחו אותו.

בראשית המאה ה-15 הקימו הברברים את סולטנות אייר, אשר השתלטה על דרכי המסחר בדרום-מזרח הסהרה ועל אלה המקשרות אותו אל המגרב, ואגדז הייתה לבירתה. הסולטנות צברה עוצמה בראשית המאה ה-16, ובאגדז הוקמו מבנים חילוניים ודתיים מפוארים, דוגמת המסגד הגדול המתגאה במינרה הבוץ הגבוה בעולם, ואשר מתנשא לגובה של 27 מטרים. העיר סבלה פעמים רבות מיחסי יריבות בין סולטנות אייר ואימפריית סונגהאי, וכן ממאבקים בין שבטי טוארג יריבים, אשר הגיעו לשיאם במאה ה-19. כתוצאה מכך נפגעו גם חלק מהמבנים החשובים בעיר.

ב-1904 השתלטו הצרפתים על העיר, וסולטנות אייר התחזקה לאחר שביססה את עצמה ככוח מתווך בין השבטים הנוודים באזור וכמגנת חיי המסחר. כאשר זכתה ניז'ר בעצמאותה בשנת 1960, המשיכה סולטנות אייר להתקיים, ושימרה את כוחה החברתי והפוליטי באזור, וגם כיום היא נחשבת לכוח ממתן ולסמכות מוסרית. בשנות ה-80 של המאה ה-20 החלה כריית אורניום בסהרה, ואגדז זכתה לתנופה מחודשת, בין היתר, בזכות חיבורה למערכת הכבישים. במרד הטוארג השני שפרץ בשנת 2007, סבלה העיר מפרצי אלימות ומהגירת אוכלוסייה בהיקף של אלפי בני אדם אליה. העיר הושמה תחת משטר צבאי ותנועת התיירות אליה פסקה, עד סופו של המרד בשנת 2009.