Bibliotekę powołano do życia 25 listopada 1944 w Prizrenie, który w tym czasie pełnił funkcję stolicy Kosowa[1]. W tym czasie nosiła nazwę Regionalnej Biblioteki Kosowa. W 1946 została przeniesiona do Prisztiny. W latach 1953-1962 jej działalność została zawieszona, a zbiory przeniesiono do Biblioteki im. Miladina Popovicia. We wrześniu 1962 wznowiono działalność Biblioteki w budynku, który obecnie stanowi siedzibę Narodowej Galerii Sztuki Kosowa[1][2]. We wrześniu 1981 Biblioteka (nosząca wówczas nazwę Biblioteka Uniwersytecka Kosowa) została przeniesiona do siedmiokondygnacyjnego budynku o powierzchni 16500 m.kw., który do dziś stanowi jej siedzibę[2]. W latach 1990-1999 znalazła się pod kontrolą władz serbskich i przyjęła imię Ivo Andricia. W tym czasie zniszczono część albańskojęzycznych zasobów Biblioteki. Pod nazwą Biblioteka Narodowa Kosowa działa od 1999[1].