Dans la continuité des laures établies par Chariton le Confesseur, le monastère a été fondé au Ve siècle par saint Sabas le Sanctifié (vers 443-532). La première église, dans une chapelle, à la manière cappadocienne, est dédiée à la Théotokos (Mère de Dieu) le 12 décembre 490 ; la seconde date du 1er juillet 501. Le monastère accueillit au VIIe siècle saint Jean Damascène, saint de l’Église orthodoxe et de l’Église catholique.

Le monastère donne son modèle de liturgie, appelé le Typikon de Jérusalem (élaboré à Saint-Sabba) au monachisme russe, qui l'adopte courant XVe siècle, en remplaçant le typikon de Constantinople. Le modèle de Saint-Sabba, plus élaboré et plus complexe, plus adapté donc aux moines, sera ensuite adopté pour le service des cathédrales et des églises, preuve de l'influence de la vie monastique sur la vie de l'Église orthodoxe russe[1].