Il primo stanziamento stabile di nostra conoscenza della città di Toledo riguarda una serie di castra, al di sopra dei quali si sviluppò in seguito la città carpetana fortificata, uno dei centri più importanti dei carpetani. Tra i primi insediamenti conosciuti nella zona troviamo il Cerro del Bu, situato sulla sponda sinistra del fiume Tago, un giacimento a più stadi, uno dei quali datato nell’Età del Bronzo.

Nell’anno 193 a.C. e dopo una grande resistenza, Marco Fulvio Nobiliore conquistò la città. I romani la ricostruirono e la denominarono Toletum, nella provincia di Carpetania. La città sviluppò un’importante industria del ferro, il che le permise di coniare monete. La zona dove era stata fondata la città subì un profondo processo di romanizzazione, come testimoniano i numerosi resti di ville romane, specialmente sulla riva del Tago.

I romani lasciarono numerose tracce nella città, come un imponente acquedotto, di cui si conservano unicamente le basi su entrambi i lati del Tago, una strada romana, parte della quale si può vedere sui pendii collinari della sponda sinistra del fiume, e un circo, situato in un parco pubblico e parzialmente dissotterrato. Esistono molte altre testimonianze che, nonostante in molti casi siano date per scomparse, è molto probabile che si trovino nel sottosuolo della città, come ad esempio il teatro (situato nelle immediate vicinanze del circo e che attualmente occupa una scuola), l’anfiteatro (al di sotto del quartiere di Covachuelas), un’importante infrastruttura idraulica (come i resti che rimangono al lato della porta da dove si accede alla moschea del Cristo della Luce), numerose strade (come quelle recentemente trovate approssimativamente a sette metri di profondità al di sotto del giardino della Moschea precedentemente menzionata), così come terme, canali di scolo e ville.

Bisogna sottolineare il fatto che la maggior parte di queste costruzioni storiche furono demolite, e i blocchi di pietra furono utilizzati per la costruzione di altri edifici e per la muraglia che circonda la città, sebbene, probabilmente la maggiore ricchezza archeologica di Toledo si trovi interrata nel suo sottosuolo.

Dopo le prime incursioni germaniche, vennero ricostruite le antiche muraglie a scopi difensivi; nonostante ciò nell’anno 411 la città fu conquistata dagli alani grazie al loro notevole capacità del controllo del combattimento a cavallo e alle loro capacità militari. Questi furono a loro volta sconfitti dai visigoti nel 418. Una volta vinto il suo rivale Agila, Atanagildo stabilì la sua corte nella città, e successivamente, con Leovigildo, questa divenne la capitale del regno ispano-goto e sede di arcivescovato. Raggiunse così una grande importanza civile e religiosa (come provano i concili di Toledo) arrivando a raggiungere i 10 000 abitanti (cosa che la collocava tra le maggiori città spagnole della epoca). Molto vicino a Toledo, nella città di Guadamur, fu trovato il tesoro di Guarrazar, un insieme eccezionale di corone votive dei re visigoti.

Nell’anno 711 venne conquistata da Tariq ibn Ziyad e sottomessa al dominio musulmano. La città cadde senza opporre una vera resistenza, dato che gran parte della popolazione era fuggita. Gli arabi la ribattezzarono Tulaytula (in arabo طليطلة ).

Il predomino della popolazione mozarabica la trasformò immediatamente in un centro che suscitava la preoccupazione di Cordova, contro cui effettivamente scoppiò una rivolta nel 797 durante l’emirato di al-Hakam I. In base alle cronache, che ci forniscono diverse versioni dell’accaduto, l’emiro avrebbe inviato il muladí Amrús ben Yusuf a sottomettere la città. Amrús decimò i muladí locali mediante la cosiddetta “giornata della fossa”: durante un banchetto nel palazzo del governatore, dove vennero invitati i principali muladí della città, questi sarebbero stati uccisi man mano che entravano e i loro cadaveri gettati in un fosso. In questo modo l’emiro riuscì a sottomettere per un certo periodo di tempo la regione di Toledo. Nonostante ciò, gli abitanti della città si ribellarono nuovamente nell’811 e nell’829, dopo la morte dell'emiro. Si dice che da questi eventi potrebbe essere nata l’espressione "passare una notte toledana”.

Per finire, Abd al-Rahman III sedò la ribellione endemica della città di Toledo nel luglio del 932, dopo un assedio di due anni, sottomettendola al califfato di Cordoba. Dopo il disintegrarsi del califfato nell’XI secolo, Toledo divenne un importante regno di Taifa, che ad ogni modo dovette pagare tributi di vassallaggio ai re di Castiglia per mantenere la propria indipendenza.

Dopo tre anni di assedio, la città viene sottomessa e si arrese il 6 maggio 1085. Giorni dopo, il 25 maggio, Alfonso VI di León entra a Toledo, dopo un accordo con il re di Taifa che la governava. Attraverso il trattato di resa il re di Leon sottomise il regno, garantendo agli abitanti musulmani la sicurezza delle persone e dei loro beni. Il re concesse fueros propri a ognuna delle minoranze esistenti: mozarabiche (Toledo era un importante centro mozarabico, con liturgia propria, quella ispano-mozarabica, che ancora oggi si conserva), musulmane ed ebree, successivamente consolidate da Alfonso VII nel Fuero del 1118. Dopo la capitolazione della città, sopraggiunse il maggior periodo di splendore di Toledo, di una grande intensità culturale, sociale e politica. La scuola di traduttori di Toledo, fiorente durante i secoli XII e XIII, così come le numerose opere di arte civili e religiose, che lasciarono un’importante testimonianza nella città.

Dopo la resa venne tollerata la pratica religiosa della comunità ebraica e di quella musulmana, ma questo atteggiamento tollerante non durò a lungo. I cristiani costruirono la nuova cattedrale sulla moschea maggiore, che a sua volta si trovava al di sopra dell’antica cattedrale visigota.

Nel 1162 la città fu conquistata dal re Ferdinando II di León, durante il periodo particolarmente caotico in cui Alfonso VIII di Castiglia era minore di età. Il re leonese nominò Ferdinando Rodríguez di Castro “il castigliano”, membro della casa del Castro, governatore della città. La città di Toledo rimase sotto il potere dei leonesi fino all’anno 1166, quando fu riconquistata dai castigliani.

Durante la guerra civile castigliana, Toledo lottò a fianco di Pietro I e, dopo aver sofferto un lungo assedio, fu conquistata nel gennaio del 1369. Durante tutto il medioevo la città continuò a crescere: nel XIV secolo ricevette il privilegio fieristico e nel XV secolo divenne uno dei principali produttori di stoffe castigliani, attività che si aggiunse a quelle già esistenti, quali la coniatura di monete, la fabbricazione di armi e l’industria della seta. Nel 1492 gli ebrei vennero espulsi e i Re Cattolici riformarono la città. Isabella la Cattolica vi fece costruire, nel monastero di San Juan de los Reyes, quella che voleva che fosse la sua tomba, però alla fine fu sepolta insieme al suo sposo all’interno della cattedrale di Granada. Carlo I trasformò Toledo in città imperiale e in sede della Corte.

I Re Cattolici urbanizzarono e ingrandirono la città, e nella cattedrale toledana Giovanna e Filippo il Bello furono proclamati eredi della corona castigliana nel 1502. I nobili castigliani parteciparono attivamente all’unificazione del primo stato moderno d'Europa, in particolare l'aristocratica famiglia degli Álvarez de Toledo, il cui potere aumentò sotto la protezione del potere regio. Isabella la Cattolica fece costruire a Toledo il monastero di San Juan de los Reyes per commemorare la battaglia di Toro ed essere sepolta lì con suo marito, ma dopo la riconquista di Granada i Re decisero di farsi seppellire in quest'ultima città, dove le loro spoglie riposano oggi.

Fu una delle prime città che si unì alla rivolta delle Comunità nel 1520, con capi comuneros come Pedro Laso de la Vega e Juan de Padilla. Dopo la sconfitta dei comuneros nella battaglia di Villalar, i comuneros toledani, guidati da Maria Pacheco, la vedova di Padilla, furono quelli che opposero più resistenza ai progetti di Carlo I, fino alla loro resa nel 1522. Toledo divenne una delle sedi della corte imperiale e nella la quarta città più popolosa della monarchia con 60.000 abitanti (1560).

Successivamente, con la decisione di trasferire la corte a Madrid, presa da suo figlio Filippo II, nell’anno 1561, la città perse gran parte del suo peso politico e sociale. Il crollo dell'industria tessile accentuò la decadenza di Toledo, sebbene mantenne la sua importanza come centro del potere ecclesiastico. Il 23 agosto del 1580 iniziò una grande epidemia di influenza che afflisse tutta la Castiglia e si accanì specialmente su Toledo, come racconta fra Antonio de Villacastín nelle sue Memorie della fondazione di San Lorenzo il Reale, monastero dell'ordine di San Girolamo...:

-Né c'era un medico che visitasse e neppure un chierico per amministrare i sacramenti, e seppellivano i morti senza campane in tutta la Spagna, e nelle tombe mettevano 7 e 8 e più in ognuna; e il giorno della Natività di Nostra Signora c’erano chiese che non avevano chierico sacerdote che dicesse messa. E avvenne a Toledo una cosa da notare: che questo detto giorno della nostra Signora di settembre non c’era canonico che celebrasse la messa maggiore, e così la celebrò un povero sacerdote, e gli accoliti furono due uomini secolari e poveri dal momento che non c’era persona ecclesiastica in tutta la chiesa. Era una malattia notevole, o per meglio dire una pestilenza. Si Soffrì di questa grave malattia fino alla metà di ottobre di quell'anno e si diceva che un terzo delle persone morì in tutti i centri abitati grandi e piccoli. Si disse che questo male si diffuse in primo luogo in tutta l'Italia e in Francia e nelle Fiandre; e che infine divenne una pestilenza generale. I suoi primi sintomi erano catarro e febbre terzana... morivano tutti quelli che sanguinavano. - Antonio de Villacastín (Zarco Cuevas, 1985, pp. 56-57)

Questa è considerata la prima pandemia influenzale, anche se alcuni credono che sia stata in realtà la pertosse. Questa epidemia è iniziata in Asia e da lì è passata in Europa e in America. Quasi tutta l'Europa è stata colpita in sei settimane, e si dice che solo il 20% della popolazione sfuggì alla malattia.

La costituzione della Real Compañía de Comercio y Fábrica, nel 1748, nell'ambito delle ristrutturazioni borboniche ispirate all'Illuminismo, portò una breve rinascita della città, ma alla fine del XVIII secolo andò nuovamente in rovina e fu ridotta a funzioni puramente amministrative.

Nel 1761, per ordine del re Carlo III, si stabilì nella città la Reale Fabbrica d'Armi.

Dopo l'inizio della guerra civile spagnola, la città rimase nella zona sotto il controllo repubblicano. Tuttavia nell'alcazar della città, sede dell'Accademia di Fanteria, si rifugiò un gruppo di fedeli ai ribelli (1950 persone, secondo il bollettino El Alcázar di quei giorni, tra militari, guardie civili e le loro famiglie), al comando del colonnello Moscardó, che resistette al governo dal 21 luglio 1936 fino all'arrivo delle truppe del generale Varela il 27 settembre di quello stesso anno. L'assedio dell'Alcazar fu ampiamente utilizzato dalla propaganda franchista. L'Alcazar, quasi del tutto distrutto durante l'assedio, fu ricostruito completamente in seguito.

La repressione e la violenza tra i sostenitori di ogni fazione furono i segni caratteristici del periodo della guerra e del dopoguerra. In un primo momento, con la città ancora sotto il dominio repubblicano, furono messe in atto fucilazioni di massa, in cui i cittadini venivano giustiziati per il semplice sospetto di essere di «destra» o di appartenere alla chiesa cattolica (essendo documentata la morte di almeno cento ecclesiastici)[senza fonte]. In una di queste fucilazioni risulterà morto il decano della cattedrale e secondo la tradizione storiografica franchista, Luis Moscardó, figlio del colonnello rinchiuso nell'Alcázar. Nel settembre 1936 si stabilì un Tribunale Popolare nel Palazzo Arcivescovile. Il Tribunale ebbe vita breve, stabilendo solo quattro procedimenti sommari prima del suo trasferimento a Madrid. Inoltre, la vita in città era in un costante stato di guerra, con combattimenti e bombardamenti continui nella zona dell'Alcazar. Gli errori nei bombardamenti causarono molti danni alla città, soprattutto nella vicina piazza di Zocodover. Dopo la presa della città da parte delle truppe franchiste la repressione si inasprì. Fino al dicembre 1936 la città vivrà in uno stato di durissima repressione attuata attraverso giudizi abbreviati, guidata dal comandante Planas e rivolta a tutti i cittadini che avevano collaborato alla repressione attuata dalle truppe repubblicane.

La città fu ufficialmente eletta sede della Giunta delle Comunità di Castiglia-La Mancia dopo una votazione nelle Cortes, il 7 dicembre 1983. Per l'elezione, il governo regionale ha incaricato José María Barreda di un’attività di informazione e consultazione della popolazione, delle istituzioni politiche e delle associazioni culturali. Nella votazione nei Tribunali, la proposta di Toledo ha ricevuto l'approvazione di 27 deputati (i 22 socialisti e i cinque del gruppo popolare di Toledo), tre contrari (i popolari di Cuenca) e 12 astensioni.