Οι ανασκαφές κατά τη Σοβιετική περίοδο έδειξαν ότι η περιοχή της Βάρτζα ήταν κατοικημένη κατά την εποχή του Χαλκού και υπήρχαν ενδείξεις για την παρουσία του πολιτισμού Τριαλέτι. Πόλεις-σπήλαια όπως το Ουπλιστσίχε είναι γνωστό ότι υπήρχαν κατά μήκος του ποταμού Κύρος από τον 5ο αιώνα π.Χ., ενώ η αρχιτεκτονική λάξευσης βράχων στο πλαίσιο του Γεωργιανού Χριστιανισμού είναι γνωστή από τα Ζενταζένι και Γκαρέτζι του 6ου αιώνα μ.Χ., και πιο τοπικά από τα Βάνις Κβαμπέμπι, Χόλτα και Μαργκαστάνι του 8ου αιώνα. [1] Στη Βάρτζια έχουν διακριθεί 4 ξεχωριστές φάσεις κατασκευής: η 1η κατά τη διάρκεια της βασιλείας του Γεωργίου Γ ' (1156-1184), όταν είχε ανακαλυφθεί η τοποθεσία και λαξεύτηκαν τα πρώτα σπήλαια. Η 2η στο χρονικό διάστημα μεταξύ του θανάτου του και του γάμου της διαδόχου του, Θαμάρ, το 1186, όταν λαξεύτηκε και διακοσμήθηκε η εκκλησία της Κοίμησης. Η 3η φάση διήρκεσε από τότε μέχρι τη μάχη των Φασιανών το ~1203, κατά την οποία κατασκευάστηκαν περισσότερα οικήματα, συστήματα άμυνας, η υδροδότηση και το αρδευτικό δίκτυο. Η 4η φάση ήταν μια περίοδος μερικής ανακατασκευής μετά από τις ζημιές που προκάλεσε ο σεισμός του 1283. [1]

 

 

Αριστερά:Η Θαμάρ στην Εκκλησία της Κοίμησης, με μία μινιατούρα της εκκλησίας. Ένας αιτιολογικός μύθος έχει τη μικρή Θαμάρ, ενώ είχε βγει για κυνήγι με τον Γεώργιο, να χάνεται στις σπηλιές. Όταν την φώναξε, απάντησε: «Εδώ είμαι θείε» ( γεωργιανά: აქ ვარ ძია ) που στα γεωργιανά προφέρεται: ακ βαρ τζία, και έτσι πήρε το όνομά της η τοποθεσία[1] Δεξιά: Το Ευαγγέλιο της Βάρτζια

Υπάρχει μια σειρά από πηγές και τεκμήρια για την ιστορία του τόπου. Στη συλλογή χρονικών που ονομάστηκε Ιστορία της Γεωργίας αναφέρεται ότι η Θαμάρ έκτισε μια εκκλησία για να στεγάσει την εικόνα της Παρθένου της Βάρτζια, όταν είχε τη θεϊκή βοήθεια στις εκστρατείες της, προτού μεταφέρει το μοναστήρι από την Άνω ή τη Ζέντα Βάρτζια. Λέγεται ότι η Θαμάρ αναχώρησε από τη Βάρτζια για την εκστρατεία κατά των Μουσουλμάνων και η επακόλουθη νίκη στους Φασιανούς εορτάστηκε στο Ύμνοι προς Τιμήν της Παρθένου της Βαρτζία του Ιωάννη Σαβτέλι. Στα Γεωργιανά Χρονικά αναφέρεται επίσης το πώς γλίτωσε η Βάρτζια τις εισβολές των Μογγόλων κατά τη δεκαετία του 1290. Ο Πέρσης χρονικογράφος των Σαφαβιδών Χασάν Μπέη Ρούμλου περιγράφει τη Βάρτζια ως ένα «θαύμα», «απόρθητη όπως το τείχος του Μεγάλου Αλεξάνδρου», προτού εξιστορήσει τη λεηλασία της από τους Πέρσες υπό τον Σαχ Ταχμάσπ Α' το 1551. Ένα σχεδόν σύγχρονο της περιόδου σημείωμα στο Ευαγγέλιο της Βάρτζια μιλά για την παλιννόστησή του από ένα Περσικό παζάρι. Μετά την άφιξη των Οθωμανών το 1578, οι μοναχοί αναχώρησαν και η περιοχή εγκαταλείφθηκε. [1]

 

 

 

 

Στην τοποθεσία υπάρχουν πολυάριθμες εκκλησίες, διάδρομοι και μοναστικά οικήματα

 

 

Αριστερά: Η θέα από το καμπαναριό Δεξιά: Μία από πολλές σήραγγες