Si attribuisce l'avvio della fondazione, iniziata nel 789, a un discendente del profeta, di nome Idrīs ibn Idrīs (poi Idrīs I), morto nel 791, che in tarda età vi fissò la sua capitale. La città sorgeva sulla riva destra del fiume Fās (Wadi Fās) e da questa avrebbe desunto il suo nome. Il figlio Idrīs II completò invece la costruzione di un diverso insediamento, sulla riva sinistra dello stesso wadi, dandogli il nome di al-ʿĀliya (La Suprema) e fissò qui la capitale della sua dinastia nell'809.

Nell'812 degli andalusi cacciati dagli Omayyadi del Califfato di Cordova s'insediarono nella Fès di Idrīs I e i due gruppi svilupparono le due comunità sulle rive opposte del wadi, costruendo proprie moschee, mercati e fortificazioni. In seguito la dinastia degli Almoravidi unì i due insediamenti, le singole fortificazioni vennero abbattute e fu costruita una nuova cinta muraria. Anche se la capitale degli Almoravidi fu Marrakesh, Fès rimase una città di primaria importanza sotto la dinastia, tant'è che Yūsuf ibn Tāshfīn è considerato il secondo fondatore della città.

Anche i successori degli Almoravidi, gli Almohadi, mantennero la capitale a Marrakesh, ma ampliarono notevolmente Fès, e sotto il loro dominio la città divenne per un breve periodo (tra il 1170 e il 1180) la più grande del mondo, raggiungendo i 200 000 abitanti.[1] Nel 1250, con la presa definitiva dei Merinidi, Fès divenne nuovamente capitale, e nel 1276 il sultano Abū Yūsuf Yaʿqūb avviò le costruzioni di un nuovo insediamento chiamato inizialmente "Madīnat al-Bayḍāʾ" (la città bianca), presto cambiato in Fes el-Jadid (Fès la Nuova) per distinguerla dalla preesistente Fes el-Bali (Fès la vecchia).

Agli inizi del XV secolo Fās al-Jadīd fu dotata di una mellāḥ (ghetto) in cui furono trasferiti gli ebrei della città. Gli ebrei convissero con i musulmani senza molte difficoltà, pur con qualche restrizione che sopravvisse fino all'avvento del protettorato: non potevano cavalcare cavalli o muli, né portare calzature all'esterno della mellāḥ. Poterono costruire le loro sinagoghe e i loro cimiteri, emigrando in massa a partire dagli anni 1950 (principalmente verso Casablanca, la Francia ed Israele), abbandonando case e beni, che i concittadini musulmani adibirono a loro abitazioni o a depositi e mostre di tappeti. Nella città rimangono circa 300 ebrei.

 Architettura della medina di Fès.

La città conobbe un particolare periodo di prosperità durante il regno del sultano merinide Abu al-Rabi Sulayman all'inizio del XIV secolo e sotto il suo successore Abu Sa'id Uthman II (che regnò dal 1310 al 1331), che fecero di Fès un centro industriale e commerciale. L'Università al-Qarawiyyīn crebbe in fama attirando i migliori docenti dell'Islam. Il tramonto della dinastia merinide segnò l'inizio del lento regresso di Fès.

Nel 1471 la città cadde nelle mani della dinastia dei Banu Wattas (o Wattasidi). Nel 1492 iniziò l'immigrazione in tutto il Marocco e soprattutto nella città di Fès degli ebrei sefarditi espulsi dalla Spagna, in seguito arrivarono anche molti ebrei in fuga dal Portogallo, l'immigrazione continuò fino al XVI secolo. Nel XVII secolo iniziò invece l'immigrazione dei moriscos musulmani espulsi da Filippo III di Spagna.

Distrutta in parte da un terremoto nel 1522, la città passò sotto i Sadiani e perse d'importanza a favore di Marrakech, divenuta la capitale, come pure di Meknès anch'essa successivamente capitale sotto il sultano alawide Mulay Isma'il. Ridivenne capitale nel XVIII secolo e rifiorì nuovamente. Nel 1912 col protettorato francese Fès perse nuovamente d'importanza anche se si ebbe un certo sviluppo di nuovi quartieri di aspetto occidentale.

Il governatore francese Louis Lyautey la dichiarò infatti città monumentale ma trasferì le funzioni politiche e amministrative a Rabat, ancora oggi capitale del regno indipendente dal 1956; Fès ha, quindi, nel contesto marocchino, un ruolo principalmente di città d'arte e dell'artigianato, conservando quello di capitale religiosa. Nel gennaio 1944, è stato scritto il Manifesto per l'indipendenza in una casa della vecchia medina di Fès, situata oggi a Place de l'Istiqlal.

La città, dopo l'indipendenza, ha dovuto affrontare gravi problemi di povertà e degrado, avendo registrato ampi movimenti migratori dalle zone rurali d'individui sottoccupati che vivono in condizioni misere, occupando le case lasciate libere dagli emigrati, in promiscuità e stipati nei locali. Nel corso del XX secolo una parte della borghesia e degli intellettuali l'hanno abbandonata, preferendo le più moderne e ricche di opportunità Casablanca e Rabat.