მონასტერი მდებარეობს მიწისქვეშა სატუსაღოს თავზე, სადაც სომხეთის მეფე თრდატ III-ს 15 წლის განმავლობაში დატუსაღებული ჰყავდა გრიგოლ განმანათლებელი. 301 წელს თრდატ III-მ ქრისტიანობა მიიღო და გრიგოლ განმანათლებელი გაათავისუფლა.

ხორ-ვირაპის ბორცვი მდებარეობს სომხეთის ძველი დედაქალაქის არტაშატის ადგილზე, რომელიც არტაშეს I-მა ააგო დაახლ. ძვ. წ. 180 წელს. მიწისქვეშა სატუსაღოს შესასვლელში, რომელიც დღემდეა შემონახული, დგას 1662 წელს აგებული წმინდა გრიგოლის ეკლესია. მიწისქვეშა სატუსაღოს სიღრმე 3-დან 6 მეტრამდეა. მონასტრის ტერიტორიაზე ასევე მდებარეობს ღვთისმშობლის ეკლესია.