Joan de Rila (Ivan Rilski) es va retirar com a ermità a les muntanyes de la serralada de Rila. La seva hagiografia explica que va viure en l'espai buit d'un arbre tallat en forma de taüt, i que aviat es va estendre la seva fama de santedat i van acudir en la seva companyia altres persones que volien seguir el seu exemple. Al final de la seva vida va fundar el monestir per albergar tots aquests monjos ermitans.

La tomba de sant Joan de Rila es va convertir en un lloc sagrat i el primitiu monestir anà transformant-se en un complex més gran. Ocupà un paper important en la vida espiritual i social de la Bulgària medieval. El 1833 un incendi el va destruir gairebé del tot. Foren els edificis més antics que van aconseguir sobreviure al foc. De seguida, però, va ser reconstruït entre 1834 i 1862.

El monument és un exemple característic de la resistència búlgara (del segle xviii al segle xix) i simbolitza el sentiment d'identitat cultural eslavita després de segles d'ocupació per l'Imperi Otomà. El monestir fou declarat Patrimoni de la Humanitat per la UNESCO l'any 1983.

En la novel·la La historiadora (2005) d'Elizabeth Kostova, el monestir n'és un dels escenaris.