Knjižnica je nastala leta 1777 z združitvijo petih starejših zbirk:[1]

 

Glavna čitalnica, nekoč refektorij jezuitskega kolegija

Zametki nekaterih od teh zbirk segajo v sredino 14. stoletja. Kolegij sv. Klementa je sprva nastal kot poskus Jezuitov, da omejijo utrakvistični vpliv univerze. Zgradili so Klementinum, kjer so se posvečali izobraževanju in vzpostavili novo knjižnico, do leta 1618, ko so bili izgnani iz Prage. Po vrnitvi so prevzeli tudi nadzor nad univerzo in združili obe zbirki. Leta 1638 jim je cesar Ferdinand III. z odlokom omejil dejavnost na kolegij sv. Klementa, a so obdržali nadzor nad združeno knjižnico. Zato je univerza, predvsem za potrebe pravne in medicinske fakultete, vzpostavila novo. Leta 1773 je papež Klemen XIV. razpustil Jezuite in zaplenil zbirke. Na pobudo Františka Josefa Kinskýja je Marija Terezija štiri leta kasneje združila omenjene zbirke v enotno knjižnico pod imenom Imperialna in kraljeva univerzitetna knjižnica, h kateri so grofje Kinský prispevali še svoje zasebne zbirke, kar štejemo za ustanovno letnico sedanje.[1]

 

Žig z napisom Javna in univerzitetna knjižnica

Veliko zaslug za razvoj ima en od prvih ravnateljev, Karel Rafael Ungar, ki je reorganiziral knjižnico in začel sistematično zbirati knjižno produkcijo čeških dežel. Do leta 1801 je zbirka vsebovala že skoraj 150.000 enot gradiva, a se je pod njegovimi nasledniki kasneje bistveno zmanjšala, saj so odstopili številne dragocene knjige in druge dokumente zbirkam na Dunaju, težave pa so bile tudi s financami. Po drugi strani je napredovala katalogizacija. V revolucionarnem letu 1848 je postal ravnatelj znani slovaški jezikoslovec in zgodovinar Josef Pavol Šafárik, ki je bil aktiven predvsem kot zagovornik narodne identitete pod avstrijsko oblastjo, kar je vključevalo tudi prizadevanja za knjižnico. Pod njim in tudi njegovimi nasledniki je ustanova vztrajno rastla in pridobila tudi nekoliko stabilnejše financiranje. Leta 1887 je bila preimenovana v Praško imperialno in kraljevo javno in univerzitetno knjižnico, nato pa v Javno in univerzitetno knjižnico. Razen kratkotrajnega težavnejšega obdobja med prvo svetovno vojno se je zbirka do izbruha druge svetovne vojne stalno povečevala z odkupi in večjimi donacijami ter leta 1938 presegla milijon enot. Že leta 1935 je bila prepoznana vloga knjižnice, ki je bila takrat preimenovana v Narodno in univerzitetno knjižnico, tistega leta je vlada od praške nadškofije odkupila Klementinum ter ga prenovila.[1]

Med drugo svetovno vojno je bila knjižnica degradirana na raven občinske in univerzitetne knjižnice ter dostopna samo z dovolilnicami okupatorja, izognila pa se je škodi, tudi po zaslugi študentov, ki so z barikadami preprečili ropanje ob nacističnem umiku. Ko so prevzeli oblast komunisti, so jo vključili v enotno strukturo državnih knjižnic. Kljub povečevanju zbirke in skromnim začetkom digitalne obdelave gradiva so materialni in prostorski pogoji stagnirali, zato so začeli knjige shranjevati na drugih, manj primernih lokacijah. Po žametni revoluciji se je začelo stanje izboljševati, tudi s pomočjo raznih domačih in tujih dobrodelnih skladov.[1] V času skupne države je bila knjižnica načelno odgovorna tudi za zbiranje slovaške knjižne produkcije, vendar je to vlogo de facto opravljala Slovaška matica (Matica slovenská), katere zbirka je bila po razdružitvi Češkoslovaške leta 2000 preoblikovana v Slovaško narodno knjižnico.[2]