Αν και η τοποθεσία της σημερινής Μαδρίτης κατοικούνταν από τους προϊστορικούς χρόνους,[1][2][3] και υπάρχουν αρχαιολογικά κατάλοιπα εγκατάστασης Καρπετανών,[1] ρωμαϊκές επαύλεις,[4] μία βησιγοτθική βασιλική κοντά στην εκκλησία της Σάντα Μαρία δε λα Αλμουδένα[5][6] και τρεις βησιγοτθικές νεκροπόλεις κοντά στην Κάσα δε Κάμπο, το Τετουάν και το Βικαλβάρο,[7] η πρώτη ιστορική αναφορά για την ύπαρξη οικισμού στη Μαδρίτη χρονολογείται από τη μουσουλμανική εποχή. Για πρώτη φορά γίνεται λόγος για τη Μαδρίτη στις αρχές του 10ου αιώνα, όταν αποτελούσε οχυρό των Αράβων και ονομαζόταν Ματζρίτ. Ο βασιλιάς της, Λεώνης Ραμίρο Β' λεηλάτησε την περιοχή το 931.

Στο δεύτερο μισό του 9ου αιώνα,[8] ο Εμίρης Μουχάμαντ Α της Κόρδοβα έχτισε ένα οχυρό σε ένα ύψωμα κοντά στον ποταμό Μανθανάρες,[9] ως ένα από τα πολλά οχυρά που έδωσε εντολή να χτιστούν στα σύνορα μεταξύ της Αλ-Ανταλούς και των βασιλείων της Λεόν και της Καστίλης, με σκοπό την προστασία του Τολέδου από τις εισβολές των χριστιανών αλλά και για τη λειτουργία ως σημείου εκκίνησης των μουσουλμανικών επιθέσεων. Μετά την κατάλυση του Χαλιφάτου της Κόρδοβας, η Μαδρίτη ενσωματώθηκε στην Τάιφα του Τολέδου.

Με την παράδοση του Τολέδου στον Αλφόνσο ΣΤ΄ του Λεόν και της Καστίλης, η πόλη κατακτήθηκε από τους χριστιανούς το 1085 και ενσωματώθηκε στο βασίλειο της Καστίλης ως ιδιοκτησία του Στέμματος.[10] Οι χριστιανοί εκτόπισαν του μουσουλμάνους από την κατοίκηση του κέντρου της πόλης, ενώ οι μουσουλμάνοι και οι εβραίοι εγκαταστάθηκαν στα προάστια. Η πόλη ανθούσε και της δόθηκε ο τίτλος της Villa, της οποίας η διοικητική επικράτεια εκτείνονταν από τον ποταμό Χαράμα στα ανατολικά έως τον ποταμό Γουδαράμα στα δυτικά. Η διακυβέρνηση της πόλης εδραιώθηκε στη Μαδρίτη το 1346, όταν ο βασιλιάς Αλφόνσος ΙΑ΄ της Καστίλης επιβάλει το καθεστώς στο οποίο μόνο η τοπική ολιγαρχία έπαιρνε μέρος στις αποφάσεις της πόλης.[11] Το 1188, η Μαδρίτη κέρδισε το δικαίωμα να είναι αντιπροσωπεύεται στην αυλή της Καστίλης. Το 1202, ο βασιλιάς Αλφόνσος Η΄ της Καστίλης παραχώρησε τον πρώτο καταστατικό χάρτη ώστε να ρυθμίζει το δημοτικό συμβούλιο,[12] ο οποίος τροποποιήθηκε το 1222 από τον Φερδινάνδο Γ΄ της Καστίλης.

Η Μαδρίτη υπήρξε πολλές φορές εστία ταραχών, απ' τις οποίες η μεγαλύτερη ήταν η επανάσταση των Κομμοννέρος (1520-1521) εναντίον του Κάρολου του Ε'.

Την εποχή του Φίλιππου Β΄ η Μαδρίτη έγινε πρωτεύουσα της ισπανικής αυτοκρατορίας κι έδρα του βασιλιά. Μόνο όμως κατά το 18ο αιώνα, με την άφιξη των Βουρβόνων, η πόλη απόκτησε ζωή κι εμφάνιση πρωτεύουσας.

Κατά τον ισπανικό εμφύλιο πόλεμο (1936-1939) η Μαδρίτη δέχτηκε την επίθεση του στρατηγού Φρανθίσκο Φράνκο, που κατέλαβε ορισμένες περιοχές στις δυτικές και βορειοδυτικές παρυφές της πόλης. Οι δημοκρατικές δυνάμεις κράτησαν την πόλη μέχρι το 1939, αλλά υπέκυψαν, γιατί οι σφοδρές αεροπορικές επιθέσεις είχαν προξενήσει σημαντικές ζημιές.