Chrám Kijomizu dal v roku 778 n. l. vybudovať Enčin Šonin, mních zo vtedajšieho hlavného mesta Japonska, Nara.[1] Enčin mal podľa legendy víziu, že má ísť do mesta Heiankjó a pri prameni vodopádu Otowa vybudovať chrám. Chrám na mieste vodopádu Otowa bol dokončený v roku 780, v roku 805 sa stal cisárskym chrámom.[2] Chrám patril k budhistickej škole Kita-Hosso, ktorá pochádzala z Nary.[1]

V roku 798 sem nechal vtedajší vojenský líder (šógun) Japonska, Sakanoue Tamuramaro, previezť veľký centrálny chrám, ktorý bol prenesený z jeho pôvodnej pozície v cisárskom paláci cisára Kammu (vládnuceho v rokoch 781 – 806).[1] Kammu sa rozhodol opustiť staré hlavné mesto Naru pre príliš silný vplyv budhistických kláštorov na cisársky trón a vládu, z toho dôvodu povolil existenciu budhistického komplexu v Kijomizu iba za hranicami mesta Heiankjó. Napriek presunu cisárskeho dvora zostal vplyv narských kláštorov na vládnutie v Kjóte značný a je známa dlhoročná rivalita chrámov Kofukudži v Nare a Kijomizu-dera. Kijomizu bol pôvodne formálne podriadený chrámu Kofukudži.[1]

V priebehu svojich dejín komplex deväťkrát vyhorel a väčšina súčasných štruktúr je z 30. rokov 17. storočia. Súčasná podoba vznikla z iniciatívy tretieho tokugawského šóguna, Iemicua Tokugawu.[3] Hlavný chrám (Hondo) je vybudovaný na svahu, podopretý masívnymi drevenými piliermi a postavený bez jediného klinca. Hondo je vyhlásený za japonský národný poklad, v rámci komplexu je ďalších 18 štruktúr a objektov, ktoré sú vyhlásené za japonské dôležité kultúrne objekty.[1]

Lokalita je obzvlášť populárna u turistov počas festivalov (primárne počas osláv Nového roku a počas budhistických festivalov obon, festivalov uctievania duší predkov.[4] V roku 2003 bola renovovaná brána niōmon, v roku 2017 stĺpy v hlavnom chráme.[1] V roku 2007 bol Kijomizu-dera finalistom súťaže Nových sedem divov sveta.[4]

V októbri 2013 sa v chráme po prvý raz v histórii uskutočnilo predstavenie opery. Japonský dirigent Hirofumi Jošida dirigoval orchester Filharmonie del Teatro Bologna Communal pri predstavení Verdiho opery Rigoletto.[5]

V roku 2020 prebiehala veľká rekonštrukcia hlavného chrámu, ktorá má byť ukončená v apríli roku 2021.[6]

V decembri 2020 bol v priestoroch chrámu odhalený japonský kandži znak roku 2020, 密 mitsu. V preklade znamená "uzavretý" či "hustý" a charakterizuje japonský boj proti pandémii koronavírusu. Znak v Kijomizu-dera namaľoval hlavný budhistický kňaz chrámu, Seihan Mori.[7]