Hoewel al in de 14e eeuw bekend was dat de bronnen van Warmbad (Tsjechisch: Vary) in dit gebied geneeskrachtig zouden zijn, werd bij die plaats pas in 1370 een koninklijke stad gesticht door de Boheemse koning en Duits keizer Karel IV. Aan hem dankt de stad haar naam. Door verwoestingen ten gevolge van overstroming en brand moest de stad in 1707 door de Oostenrijkse keizer Jozef I opnieuw worden gesticht en daarbij kreeg ze als kuuroord privileges. Dr. David Becher legde de grondslag voor een geneeskundige behandeling met het bronwater en sindsdien nam de toeloop van kuurgasten aanzienlijk toe. Naam kreeg de stad door de conferentie van 1819 waar de zogenaamde Karlsbader Besluiten door de Oostenrijkse kanselier vorst Metternich werden afgekondigd. Zij zouden het repressieve politieke klimaat in Duitsland en Oostenrijk voor een halve eeuw gaan bepalen.

Een volgende arts, Josef von Löschner, lijfarts van de keizer, maakte de naam van de stad in heel Europa bekend met zijn wetenschappelijke publicaties over de samenstelling van het bronwater en de behandelingsmethoden die genezing zouden bewerkstelligen. De elite uit vooral Midden- en Oost-Europa, die van kwalen wilde genezen, bezocht de stad en deze werd daarmee ook een oord voor sociale, culturele en diplomatieke ontmoetingen. De eerst nog weinige duizenden gasten uit de 18e eeuw werden gevolgd door gemiddeld 25.000 per jaar in de 19e eeuw, oplopend tot het hoogtepunt van 70.000 in 1911.

Na de Eerste Wereldoorlog werd de stad en omgeving bij het nieuwe Tsjechoslowakije gevoegd ondanks protestdemonstraties van de bewoners, die een aantal van hen het leven kostte. De annexatie van Sudetenland bracht in 1939 stad en wijde omgeving bij Duitsland. De verdrijving van de nazi’s, ruim vijf jaar later, ging gepaard met bombardementen die een deel van de stad verwoestten. De Amerikanen trokken in mei 1945 de stad binnen, om haar op de 11e van die maand aan de Sovjetleger over te dragen. De vrijwel geheel Duitstalige bevolking (Sudeten-Duitsers) werd toen op grond van de Beneš-decreten van haar staatsburgerschap ontheven. Ze werden onteigend en vervolgens naar Duitsland uitgewezen. Het duurde lang voordat de stad weer enigszins bevolkt was en daartoe werden er vanuit Slowakije ook Roma hierheen gestuurd. Nog altijd wonen er iets minder mensen dan voor de oorlog, namelijk ca. 55.000.

Na 1990 zouden de onteigende en genationaliseerde badhuizen en hotels weer geprivatiseerd worden en een nieuwe bloei tegemoet gaan.