Thành phố được thành lập trước thế kỷ XIV và dần trở thành thành phố quan trọng nhất của người Tuareg, thay thế Assodé, bằng cách phát triển thương mại xuyên Sahara. Thành phố vẫn còn thấy sự xuất hiện của các đoàn lữ hành, mang muối từ Bilma tới đây.

Trong năm 1449, Agadez đã trở thành một vương quốc, và khoảng năm 1500 nó đã được chinh phục bởi đế quốc Songhai, là một trong những đế quốc Hồi giáo lớn nhất trong lịch sử. Tại thời điểm này, thành phố có dân số khoảng 30.000 người và là một con đường chính thời trung cổ cho các đoàn lữ hành thương mại giữa các thành phố Tây Phi Kano, Timbuktu, ốc đảo Ghat ở Bắc Phi, Ghadames và Tripoli trên bờ biển Địa Trung Hải. Khi Maroc xâm lược, dân số thành phố đã giảm xuống dưới 10.000 người. Agadez là điểm xa nhất của Đế chế Ottoman trong lục địa châu Phi đến thế kỷ 19 trước khi bị chiếm đóng bởi thực dân Pháp.

Thành phố được cai trị bởi người Pháp từ năm 1900. Một cuộc nổi loạn bởi Kaocen Ag Mohammed xảy ra trong năm 1916, nhưng đã bị đánh bại bởi lực lượng quân đội Pháp. Sau đó, Agadez đã trở thành một vị trí quan trọng trong các cuộc nổi dậy Tuareg của những năm 1990.