Llegenda de la seva fundació  Porta de l'Elefant

Al segle x, el cabdill rajput de Kotwai (40 km al nord de Gwalior), Suraj Sen, que patia de lepra, es va perdre per la zona durant una cacera. Buscant els seus soldats, va pujar al turó on va trobar un home sant de nom Gwalipa que va donar a Suraj aigua d'un estany proper a la seva barraca; després de beure d'aquesta aigua, el cap rajput es va curar de la lepra i en agraïment va oferir al sant una recompensa, i aquest va demanar l'embelliment de l'estany i la construcció d'una fortalesa. Suraj va complir la petició i va fundar la fortalesa de Gwaliawar ('El favor de Gwalia o Gwalipa'). La paraula Gwalior prové de la paraula utilitzada en l'hinduisme per a referir-se a un sant.[1] El sant va canviar el nom del seu beneficiat, que es va dir Suhanpal o Surajpal, i li va profetitzar que els seus successors governarien la regió fins que un dels hereus adoptés un nom que no acabés en "pal". En aquest temps, el territori era part del Regne dels Kachhawaha. En realitat, però, se sap que la fortalesa ja existia abans, car és esmentada en la consagració d'un temple dedicat al sol just al cim del turó Gopachal; el temple, el va consagrar Matricheta en el 15è any del regnat de Mihirakula, el rei dels huns heftalites (vers 525).

La fortalesa fins al segle xiii

El 875 i 876, dues inscripcions més (al temple de Chaturbhuj) estableixen que la fortalesa pertanyia al Regne de Kanauj dels pratihara, sota el rei Mihira Bhoja; els pratihara van conservar la regió fins al segle x, quan els hi fou arrabassada pels rajput kachhawaha (o kachhapaghata), dirigits per Vajradaman. La van dominar durant dos segles. Una branca dels pratihara va recuperar la regió a la segona meitat del segle xii i la van conservar fins al 1232, en què va caure en mans dels musulmans dirigits per Iltumish. Els musulmans van assetjar el fort i el van conquerir després d'una lluita aferrissada, en la qual el raja pratihara va morir amb els seus seguidors, i les dones de l'harem van fer el ritual del johar o autodestrucció. Els musulmans de Delhi van governar Gwalior fins al 1398, quan foren atacats per Tamerlà.

Govern dels tomar

Aprofitant la confusió de l'atac, un rajput del clan tomar es va imposar com a governador de la fortalesa. El govern d'aquest clan va durar fins a la primera part del segle xvi. Sota Dungar Singh Tomar, es van esculpir a la roca moltes de les figures jainistes que es conserven. El cim del poder del clan va arribar amb Man Singh Tomar, protector de la música i l'arquitectura i constructor del palau conegut com a palau de Man Singh. Després de la seva mort, la fortalesa no va tardar a caure en mans de la dinastia Lodi del Sultanat de Delhi.

La fortalesa sota els musulmans

Derrotat i exiliat Humayun, la fortalesa es va rendir a Sher Shah, els successors del qual la van convertir en la virtual capital fins al 1559, quan fou recuperada per Akbar el Gran. Va romandre en poder dels mogols durant dos segles en els quals va servir com a presó, i va allotjar entre altres presos, Murad Baksin, germà d'Aurangzeb, que hi fou finalment enverinat.

Gwailor i els marathes

El 1754, els marathes van conquerir el fort per primer cop. En els següents anys, el van perdre i recuperar diverses vegades. El 1777, el ministre executiu dels marathes, el peshwa, va concedir la fortalesa a Mahadji Scindia. El 1780, la fortalesa fou ocupada per sorpresa pels britànics dirigits pel major Popham, escalant la muralla per la part sud de la porta Gargaj (que fou destruïda pel general White en el bombardeig del 1804). El 1781, Popham va concedir la fortalesa a Chhatrapati Singh de Gohad, però els marathes la van recuperar després de mesos de lluita, el 1783, sota la direcció del general Khanderao Hari, al servei de Mahadji Scindia. El 1804, en la Segona Guerra anglomaratha, el general White, després de bombardejar la fortalesa, la va ocupar, però fou retornada a Scindia pel tractat del 1805.

Després de la Batalla de Maharajpur el 1844, s'hi va establir una guarnició britànica. El 1853, sota el vell maharajà Jayaji Rao, la fortalesa fou retornada pels britànics a la dinastia dels Scindia, que la va conservar fins a la rebel·lió índia de 1857, en què fou ocupada pels sipais. El 1858, aquestos es van rendir a sir Hugh Rose i els britànics la van mantenir fins al 1886, en què fou retornada a la dinastia Scindia a canvi de Jhansi. Va pertànyer al principat de Gwalior fins a l'abolició dels drets sobirans el 1949 i, des de llavors, és part del Rajasthan.