La città fu fondata il 14 agosto 1370, dall'imperatore Carlo IV di Lussemburgo che, imbattutosi nelle numerose sorgenti termali della zona, ne aveva apprezzato le qualità. La leggenda narra di un cervo che fu scottato da un getto di acqua bollente scaturito d'improvviso dal suolo mentre fuggiva inseguito dai cani da caccia dell'imperatore.

A partire dal 1762, e in particolare nei decenni a cavallo tra Ottocento e Novecento, la località si affermò come uno dei più importanti centri termali d'Europa, divenendo meta di molti personaggi illustri quali membri dell'aristocrazia, pensatori, statisti, compositori e artisti del mondo tedesco, russo e mitteleuropeo (fra gli altri Goethe, Beethoven, Chopin, Dostoevskij, Marx).

Dal 6 al 31 agosto 1819 la città fu prescelta per una conferenza di ministri della Confederazione germanica presieduta da Metternich. Alla conclusione della conferenza vennero promulgati i celebri Deliberati di Karlsbad, che ebbero un ruolo fondamentale nel sistema della Restaurazione postnapoleonica e più in generale nella storia della Germania del Vormärz.

All'affermazione come centro di villeggiatura curativa contribuirono anche le pubblicazioni di medici come David Becher e Josef von Löschner e senz'altro il completamento delle linee ferroviarie che la collegavano a Praga e a Eger (Cheb) nel 1870. Il numero di visitatori passò dalle 134 famiglie del 1756 a una media annuale di 26 000 ospiti alla fine del XIX secolo. Nel 1911 tale numero aveva già raggiunto i 71 000 visitatori ma la Prima Guerra Mondiale mise bruscamente fine al turismo, portando al collasso dell'impero Austro Ungarico, qualche anno più tardi, nel 1918.

La maggioranza di lingua tedesca della popolazione protestò per l'annessione della città alla Cecoslovacchia sancita dal trattato di Saint Germain. Una grande dimostrazione il 4 marzo 1919 trascorse senza incidenti ma nello stesso mese 6 dimostranti furono uccisi dall'esercito ceco con l'intento di frenare la protesta che si andava rafforzando. Nel 1938 la regione dei Sudeti (Sudetenland), inclusa Karlsbad, divenne parte della Germania.

Come in altre città di Cecoslovacchia e Polonia, nel 1945, alla fine della seconda guerra mondiale, la popolazione di lingua tedesca, che ne costituiva la maggioranza, venne cacciata dalla città, e la città ripopolata con i cittadini cechi.