Borgen daterer sig mindst tilbage til omkring 870, hvorfra den første murede bygning stammer. Det var prins Bořivoj 1., der flyttede sin bolig til området og opførte en kirke til Jomfru Maria, der for længst er væk. Det tidligste bygningsværker, der stadig eksisterer, er Sankt Georgskirken fra starten af det 10. århundrede. Bøhmens første kloster blev opført i klosteret, og en basilika tilegnet Sankt Vitus fra 1096 erstattede en ældre rundkirke tilegnet samme helgen.

I det 12. århundrede blev der opført et romansk palads på borgområdet, men den blev erstattet i det 14. århundrede under Karl 4. af et slot i gotisk stil. Karl var meget initiativrig og påbegyndte også opførelsen af den nuværende domkirke, Sankt Vitus-katedralen (Katedrála svatého Víta), til erstatning af Sankt Vitus-basilikaen samt forstærkede borgens befæstning. Karls søn, Václav 4., flyttede imidlertid residens til et nyt kongeslot i Staré Město, så borgen i en længere periode ikke var beboet. Kong Vladislav Jagiellon gav i 1485 startskuddet til nyt liv på borgen ved at påbegynde en restauration af paladset i borgen. I den forbindelse blev den store Vladislav-sal i det gamle kongeslot opført, oprindeligt med henblik på afholdelse af indendørs ridderturneringer. Også to nye forsvarstårne blev tilføjet på borgens nordside.

I 1541 blev store dele af borgen ødelagt af en brand, men i den følgende tid blev nye bygninger opført. Ferdinand 1. lod sommerslottet Belvedere opføre til sin hustru Anne, og en af hans efterfølgere, Rudolf 2., flyttede det tysk-romerske riges hovedstad fra Wien til Prag med borgen som centrum. Rudolf var meget kunst- og videnskabsinteresseret, og han tiltrak en række personligheder fra hele Europa, blandt andet Tycho Brahe og Johannes Kepler. Kongeslottets nordlige fløj med den spanske hall blev grundlagt af Rudolf for at huse hans skattede kunstsamling.

I 1618 fandt den anden såkaldte udsmidning sted, da protestantiske adelsmænd gjorde oprør mod de katolske habsburgere. De trængte ind på borgen og kastede kejserens statholdere og en sekretær ud ad vinduet. Ofrene reddede livet, da de landede i en bunke affald, men episoden blev optakten til trediveårskrigen og afsluttede Bøhmens selvstændighed. Under krigen skete der store skader på borgen, og mange af Rudolfs kunstgenstande blev stjålet af svenske krigsmænd. I en årrække herefter forfaldt borgområdet, og fattige folk fik tilladelse til at bygge småhuse bag murene.

Borgen blev standsmæssigt genopbygget i starten af det 18. århundrede på foranledning af dronning Maria Theresia af Østrig, og derfor er slottet udadtil præget af den på den tid herskende nyklassicistiske stil. Slottet havde ikke den store politiske betydning i de følgende par århundreder, før det blev regeringssæde i 1918 ved Tjekkoslovakiets selvstændighed. I den forbindelse blev der foretaget en del renoveringer af blandt andet haverne. Under den nazistiske besættelse under anden verdenskrig fungerede borgen som hovedkvarter for rigsprotektor Reinhard Heydrich. Efter krigen, hvor kommunisterne overtog magten, blev borgen igen centrum for Tjekkoslovakiets regering. Efter fløjlsrevolutionen og landets opdeling fortsatte borgen som sæde for Tjekkiets præsident.