El Kiyomizu-dera fue fundado a comienzos del Periodo Heian.[1]​ El templo data del año 778, aunque los edificios actuales fueron construidos en 1633. El templo toma su nombre de las cascadas que existen en el complejo, las cuales bajan de las colinas cercanas. Kiyomizu (清水) literalmente significa agua pura, agua clara o agua limpia.[2]​

Originalmente estaba afiliada a la antigua e influyente secta Hossō, que procedía desde los tiempos del Periodo Nara.[3]​ Sin embargo, en 1965 se rompió esa afiliación y sus custodios actuales se denominan a sí mismos los miembros de la secta "Kitahossō".[4]​